การป้อนระบบ AI ด้วยความงาม ความน่าเกลียด และความโหดร้ายของโลก แต่กลับคาดหวังให้มันสะท้อนแค่ความงามนั้นเป็นเพียงจินตนาการ

Vinay Uday Prabhu และ Abeba Birhane, "Large Datasets: A Pyrrhic Win for Computer Vision?" (2020)

ในบทสุดท้ายของหนังสือเล่มนี้ ขอให้เราถอยกลับมามองภาพรวมกันสักเล็กน้อย ตลอดทั้งเล่มเราได้สำรวจสถาปัตยกรรมที่หลากหลายสำหรับระบบข้อมูล ประเมินข้อดีข้อเสียของแต่ละแบบ และเรียนรู้เทคนิคในการสร้างแอปพลิเคชันที่เชื่อถือได้ ปรับขนาดได้ และบำรุงรักษาได้ อย่างไรก็ตาม เรายังละเลยส่วนสำคัญของการสนทนาไว้ ซึ่งตอนนี้เราควรเติมเต็มมันเสียที

ทุกระบบถูกสร้างขึ้นเพื่อจุดประสงค์บางอย่าง ทุกการกระทำที่เราทำล้วนมีทั้งผลลัพธ์ที่ตั้งใจและไม่ตั้งใจ จุดประสงค์อาจเรียบง่ายแค่การทำเงิน แต่ผลกระทบอาจกว้างไกลเกินกว่าที่คิด พวกเราวิศวกรผู้สร้างระบบเหล่านี้ มีความรับผิดชอบที่จะต้องพิจารณาผลกระทบเหล่านั้นอย่างรอบคอบ และต้องมั่นใจว่าการตัดสินใจของเราจะไม่ก่อให้เกิดอันตราย

เราพูดถึงข้อมูลในฐานะสิ่งที่เป็นนามธรรม แต่โปรดจำไว้ว่าข้อมูลจำนวนมากนั้นเกี่ยวกับผู้คน: พฤติกรรม ความสนใจ อัตลักษณ์ของพวกเขา เราต้องปฏิบัติต่อข้อมูลดังกล่าวด้วยความเป็นมนุษย์และความเคารพ ผู้ใช้ก็คือมนุษย์คนหนึ่ง และศักดิ์ศรีของความเป็นมนุษย์นั้นสำคัญเหนือสิ่งอื่นใด [ 1 ]

การพัฒนาซอฟต์แวร์ในปัจจุบันเกี่ยวข้องกับการตัดสินใจเชิงจริยธรรมที่สำคัญมากขึ้นเรื่อยๆ มีแนวทางปฏิบัติเพื่อช่วยให้นักพัฒนาซอฟต์แวร์รับมือกับประเด็นเหล่านี้ เช่น ACM Code of Ethics and Professional Conduct [ 2 ] แต่ก็แทบจะไม่มีการนำมาพูดคุย ประยุกต์ใช้ หรือบังคับใช้ในทางปฏิบัติจริง ส่งผลให้วิศวกรและผู้จัดการผลิตภัณฑ์บางครั้งมีทัศนคติที่สะเพร่าต่อความเป็นส่วนตัวและผลกระทบเชิงลบที่อาจเกิดขึ้นจากผลิตภัณฑ์ของตน [ 3 , 4 ]

เทคโนโลยีไม่ได้ดีหรือเลวในตัวของมันเอง — สิ่งที่สำคัญคือมันถูกใช้อย่างไรและส่งผลกระทบต่อผู้คนอย่างไร สิ่งนี้เป็นจริงทั้งกับระบบซอฟต์แวร์อย่าง Search Engine และอาวุธอย่างปืน ความรับผิดชอบทางจริยธรรมเป็นของเราที่จะต้องแบกรับ การที่วิศวกรซอฟต์แวร์มุ่งเน้นเฉพาะเทคโนโลยีและละเลยผลกระทบที่ตามมานั้นไม่เพียงพอ

อย่างไรก็ตาม แตกต่างจากศาสตร์ทางคอมพิวเตอร์ส่วนใหญ่ แนวคิดที่เป็นหัวใจของจริยธรรมนั้นไม่ได้ตายตัวหรือมีความหมายที่แน่นอน พวกมันต้องการการตีความ ซึ่งอาจเป็นอัตวิสัย [ 5 ] สิ่งที่ทำให้บางอย่าง "ดี" หรือ "เลว" นั้นไม่ได้ถูกนิยามไว้อย่างชัดเจน และการอภิปรายอย่างจริงจังในหัวข้อนี้ในหมู่ผู้ประกอบวิชาชีพด้านคอมพิวเตอร์ยังขาดแคลน [ 6 ] การใช้เหตุผลเกี่ยวกับจริยธรรมเป็นเรื่องยาก แต่มันสำคัญเกินกว่าจะมองข้าม แล้วมันหมายถึงอะไร? จริยธรรมไม่ใช่การเดินตาม Checklist เพื่อยืนยันว่าคุณปฏิบัติตามข้อกำหนด แต่เป็นกระบวนการสะท้อนคิดแบบมีส่วนร่วมและทำซ้ำ โดยมีการสนทนากับผู้คนที่เกี่ยวข้อง และมีความรับผิดชอบต่อผลลัพธ์ [ 7 ]

Predictive Analytics (การวิเคราะห์เชิงทำนาย)

การวิเคราะห์เชิงทำนาย (Predictive Analytics) เป็นส่วนสำคัญที่ทำให้ผู้คนตื่นเต้นกับ Big Data และ AI และยังเป็นพื้นที่ที่เต็มไปด้วยประเด็นขัดแย้งทางจริยธรรม การใช้การวิเคราะห์ข้อมูลเพื่อพยากรณ์สภาพอากาศ หรือการแพร่ระบาดของโรค เป็นเรื่องหนึ่ง [ 8 ]; แต่อีกเรื่องหนึ่งคือการทำนายว่านักโทษมีแนวโน้มจะกระทำผิดซ้ำหรือไม่ ผู้กู้มีแนวโน้มจะผิดนัดชำระหนี้หรือไม่ หรือลูกค้าประกันมีแนวโน้มจะเรียกสินไหมทดแทนที่มีมูลค่าสูงหรือไม่ [ 9 ] อย่างหลังนี้มีผลโดยตรงต่อชีวิตของแต่ละบุคคล

แน่นอนว่าเครือข่ายการชำระเงินต้องการป้องกันธุรกรรมที่เป็นการฉ้อโกง ธนาคารต้องการหลีกเลี่ยงหนี้เสีย สายการบินต้องการป้องกันการจี้เครื่องบิน และบริษัทต่างๆ ต้องการหลีกเลี่ยงการจ้างคนที่ไร้ประสิทธิภาพหรือไม่น่าไว้วางใจ จากมุมมองของพวกเขา ต้นทุนของการพลาดโอกาสทางธุรกิจนั้นต่ำ แต่ต้นทุนของหนี้เสียหรือพนักงานที่มีปัญหานั้นสูงกว่ามาก ดังนั้นจึงเป็นเรื่องปกติที่องค์กรต่างๆ จะต้องการใช้ความระมัดระวัง หากไม่แน่ใจ พวกเขาก็ควรปฏิเสธไว้ก่อน

อย่างไรก็ตาม เมื่อการตัดสินใจด้วยอัลกอริทึมแพร่หลายมากขึ้น คนที่ถูกอัลกอริทึมประเมินว่า "มีความเสี่ยง" (ไม่ว่าจะถูกต้องหรือไม่ก็ตาม) อาจต้องเผชิญกับการถูกปฏิเสธเป็นจำนวนมาก การถูกกีดกันอย่างเป็นระบบจากการทำงาน การเดินทางทางอากาศ ความคุ้มครองประกัน การเช่าอสังหาริมทรัพย์ บริการทางการเงิน และแง่มุมสำคัญอื่นๆ ของสังคม เป็นการจำกัดเสรีภาพของบุคคลอย่างรุนแรง จนได้รับการขนานนามว่า "คุกอัลกอริทึม" (Algorithmic Prison) [ 10 ] ในประเทศที่เคารพสิทธิมนุษยชน ระบบยุติธรรมทางอาญาถือว่าผู้บริสุทธิ์จนกว่าจะพิสูจน์ได้ว่ามีความผิด ในทางกลับกัน ระบบอัตโนมัติสามารถกีดกันบุคคลออกจากการมีส่วนร่วมในสังคมอย่างเป็นระบบและโดยพลการ โดยไม่มีหลักฐานใดๆ แสดงว่าผู้นั้นมีความผิด และแทบไม่มีช่องทางในการอุทธรณ์

Bias and Discrimination (อคติและการเลือกปฏิบัติ)

การตัดสินใจโดยอัลกอริทึมไม่จำเป็นต้องดีกว่าหรือแย่กว่าการตัดสินใจโดยมนุษย์เสมอไป ทุกคนมีแนวโน้มที่จะมีอคติ แม้ว่าพวกเขาจะพยายามต่อต้านมันอย่างแข็งขันก็ตาม และการปฏิบัติที่เลือกปฏิบัติสามารถกลายเป็นสิ่งที่ฝังรากลึกในวัฒนธรรม มีความหวังว่าการตัดสินใจโดยอาศัยข้อมูล แทนที่จะขึ้นอยู่กับการประเมินแบบอัตวิสัยและสัญชาตญาณของมนุษย์ อาจมีความเป็นธรรมมากกว่า และให้โอกาสที่ดีกว่ากับคนที่มักถูกมองข้ามหรือเสียเปรียบในระบบดั้งเดิม [ 11 ]

เมื่อเราพัฒนาระบบ Predictive Analytics และ AI เราไม่ได้เพียงแค่ทำให้การตัดสินใจของมนุษย์เป็นอัตโนมัติโดยใช้ซอฟต์แวร์กำหนดกฎเกณฑ์ว่าจะตอบรับหรือปฏิเสธเมื่อใด แต่เราปล่อยให้กฎเกณฑ์ต่างๆ ถูกอนุมานจากข้อมูลด้วยตัวมันเอง อย่างไรก็ตาม รูปแบบที่ระบบเหล่านี้เรียนรู้กลับไม่โปร่งใส: แม้ข้อมูลจะบ่งชี้ถึงความสัมพันธ์เชิงสหสัมพันธ์ (Correlation) เราก็อาจไม่รู้ว่าทำไม หากอินพุตของอัลกอริทึมมีอคติเชิงระบบอยู่แล้ว ระบบก็มีแนวโน้มสูงที่จะเรียนรู้และขยายอคตินั้นในผลลัพธ์ [ 12 ]

ในหลายประเทศ กฎหมายต่อต้านการเลือกปฏิบัติห้ามปฏิบัติต่อผู้คนแตกต่างกันโดยขึ้นอยู่กับลักษณะที่ได้รับการคุ้มครอง เช่น เชื้อชาติ อายุ เพศ รสนิยมทางเพศ ความพิการ หรือความเชื่อ ลักษณะอื่นๆ ในข้อมูลของบุคคลอาจถูกนำมาวิเคราะห์ได้ แต่จะเกิดอะไรขึ้นถ้าลักษณะเหล่านั้นมีความสัมพันธ์กับลักษณะที่ได้รับการคุ้มครอง? ตัวอย่างเช่น ในย่านที่แบ่งแยกตามเชื้อชาติ รหัสไปรษณีย์หรือแม้แต่ที่อยู่ IP ของบุคคลเป็นตัวทำนายเชื้อชาติที่แม่นยำมาก พูดแบบนี้แล้ว มันดูไร้สาระที่จะเชื่อว่าอัลกอริทึมสามารถรับข้อมูลที่มีอคติเป็นอินพุตแล้วผลิตผลลัพธ์ที่ยุติธรรมและเป็นกลางออกมาได้ [ 13 , 14 ] แต่ความเชื่อนี้มักถูกนัยโดยผู้สนับสนุนการตัดสินใจที่ขับเคลื่อนด้วยข้อมูล ซึ่งเป็นทัศนคติที่ถูกเสียดสีว่า "Machine Learning เปรียบเสมือนการฟอกเงินให้กับอคติ" (Machine Learning is like money laundering for bias) [ 15 ]

ระบบ Predictive Analytics เพียงแค่คาดการณ์จากอดีต หากอดีตเต็มไปด้วยการเลือกปฏิบัติ มันก็จะทำให้การเลือกปฏิบัตินั้นกลายเป็นกฎตายตัวและขยายให้รุนแรงขึ้น [ 16 ] หากเราต้องการให้อนาคตดีกว่าอดีต เราจำเป็นต้องมีจินตนาการทางศีลธรรม (Moral Imagination) และนั่นเป็นสิ่งที่มนุษย์เท่านั้นที่สามารถให้ได้ [ 17 ] ข้อมูลและโมเดลควรเป็นเครื่องมือของเรา ไม่ใช่นายของเรา

Responsibility and Accountability (ความรับผิดชอบและการตรวจสอบได้)

การตัดสินใจแบบอัตโนมัติทำให้เกิดคำถามเกี่ยวกับความรับผิดชอบและการตรวจสอบได้ [ 17 ] หากมนุษย์ทำผิด พวกเขาสามารถถูกนำมาสอบสวนได้ และผู้ที่ได้รับผลกระทบจากการตัดสินใจนั้นสามารถอุทธรณ์ได้ อัลกอริทึมก็ทำผิดพลาดเช่นกัน แต่ใครจะเป็นผู้รับผิดชอบเมื่อมันผิดพลาด [ 18 ]? เมื่อรถยนต์ไร้คนขับก่อให้เกิดอุบัติเหตุ ใครคือผู้รับผิดชอบ? หากอัลกอริทึมให้คะแนนเครดิตอัตโนมัติเลือกปฏิบัติอย่างเป็นระบบต่อคนเชื้อชาติหรือศาสนาใดศาสนาหนึ่ง มีช่องทางใดให้เยียวยาหรือไม่? หากการตัดสินใจโดยระบบ ML ของคุณถูกนำเข้าสู่การพิจารณาของศาล คุณสามารถอธิบายให้ผู้พิพากษาฟังได้หรือไม่ว่าอัลกอริทึมตัดสินใจอย่างไร? ผู้คนไม่ควรหลบเลี่ยงความรับผิดชอบของตนโดยการโทษอัลกอริทึม

หน่วยงานจัดอันดับเครดิต (Credit Rating Agencies) เป็นตัวอย่างคลาสสิกของการเก็บรวบรวมข้อมูลเพื่อตัดสินใจเกี่ยวกับผู้คน คะแนนเครดิตที่ไม่ดีทำให้ชีวิตลำบาก แต่อย่างน้อยคะแนนเครดิตก็มักจะอิงจากข้อเท็จจริงที่เกี่ยวข้องเกี่ยวกับประวัติการกู้ยืมจริงของบุคคล และข้อผิดพลาดใดๆ ในบันทึกก็สามารถแก้ไขได้ (แม้ว่าโดยปกติหน่วยงานเหล่านี้จะไม่ทำให้เรื่องนี้ง่ายนัก) แต่อัลกอริทึมการให้คะแนนที่ใช้ Machine Learning โดยทั่วไปจะใช้ข้อมูลนำเข้าที่หลากหลายกว่ามาก และทึบแสงกว่ามาก ทำให้ยากที่จะเข้าใจว่าการตัดสินใจเฉพาะเกิดขึ้นได้อย่างไร และมีใครบางคนถูกปฏิบัติอย่างไม่ยุติธรรมหรือเลือกปฏิบัติหรือไม่ [ 19 ]

คะแนนเครดิตสรุปว่า "คุณมีพฤติกรรมอย่างไรในอดีต?" ในขณะที่ Predictive Analytics มักทำงานบนพื้นฐานของ "ใครบ้างที่คล้ายกับคุณ และคนที่เหมือนคุณมีพฤติกรรมอย่างไรในอดีต?" การเปรียบเทียบกับพฤติกรรมของผู้อื่นนั้นหมายถึงการตีตราผู้คน—ตัวอย่างเช่น อิงจากสถานที่ที่พวกเขาอาศัยอยู่ (ซึ่งเป็นตัวแทนใกล้เคียงของเชื้อชาติและชนชั้นทางเศรษฐกิจและสังคม) แล้วคนที่ถูกจัดอยู่ในกลุ่มที่ไม่ถูกต้องล่ะ? ยิ่งไปกว่านั้น หากการตัดสินใจไม่ถูกต้องเนื่องจากข้อมูลที่ผิดพลาด การเยียวยาแทบจะเป็นไปไม่ได้เลย [ 17 ]

ข้อมูลจำนวนมากมีลักษณะเป็นสถิติ ซึ่งหมายความว่าแม้การกระจายตัวของความน่าจะเป็นโดยรวมจะถูกต้อง แต่กรณีเฉพาะบุคคลก็อาจผิดพลาดได้ ตัวอย่างเช่น หากอายุขัยเฉลี่ยในประเทศของคุณคือ 80 ปี นั่นไม่ได้หมายความว่าคุณจะต้องเสียชีวิตในวันเกิดครบ 80 ปี จากค่าเฉลี่ยและการกระจายตัวของความน่าจะเป็น คุณไม่สามารถบอกได้มากนักว่าบุคคลใดบุคคลหนึ่งจะมีชีวิตอยู่ถึงอายุเท่าใด ในทำนองเดียวกัน ผลลัพธ์ของระบบทำนายเป็นความน่าจะเป็น และอาจผิดพลาดในแต่ละกรณีได้

ความเชื่ออย่างมืดบอดในอำนาจสูงสุดของข้อมูลสำหรับการตัดสินใจนั้นไม่เพียงแต่เป็นภาพลวงตา แต่ยังเป็นอันตรายอย่างยิ่งอีกด้วย เมื่อการตัดสินใจที่ขับเคลื่อนด้วยข้อมูลแพร่หลายมากขึ้น เราจะต้องหาวิธีหลีกเลี่ยงการตอกย้ำอคติที่มีอยู่เดิม ทำให้อัลกอริทึมตรวจสอบได้และโปร่งใส และแก้ไขเมื่อมันผิดพลาดอย่างหลีกเลี่ยงไม่ได้

เราจะต้องหาวิธีตระหนักถึงศักยภาพเชิงบวกของข้อมูลและป้องกันไม่ให้ถูกใช้ในการทำร้ายผู้คนด้วย ตัวอย่างเช่น การวิเคราะห์สามารถเปิดเผยลักษณะทางการเงินและสังคมในชีวิตของผู้คน ในแง่หนึ่ง พลังนี้สามารถใช้เพื่อมุ่งเน้นการช่วยเหลือและสนับสนุนผู้ที่ต้องการมากที่สุด ในอีกแง่หนึ่ง มันถูกใช้โดยธุรกิจที่เอาเปรียบเพื่อระบุตัวบุคคลที่เปราะบางและขายผลิตภัณฑ์ที่มีความเสี่ยงให้พวกเขา เช่น เงินกู้ดอกเบี้ยสูง หรือปริญญาวิทยาลัยที่ไร้ค่า [ 17 , 20 ]

Feedback Loops (ลูปป้อนกลับ)

แม้แต่กับแอปพลิเคชันเชิงทำนายที่มีผลกระทบในวงกว้างน้อยกว่าต่อผู้คนในทันที เช่น ระบบแนะนำเนื้อหา ก็ยังมีประเด็นยากๆ ที่เราต้องเผชิญ เมื่อบริการต่างๆ เก่งขึ้นในการทำนายเนื้อหาที่ผู้ใช้ต้องการเห็น พวกมันอาจจบลงด้วยการแสดงให้ผู้คนเห็นเฉพาะความคิดเห็นที่พวกเขาเห็นด้วยอยู่แล้ว นำไปสู่การเกิดห้องสะท้อน (Echo Chamber) ซึ่งแบบแผน ข้อมูลเท็จ และการแบ่งขั้วสามารถเติบโตได้ เรากำลังเห็นผลกระทบที่ Social Media Echo Chamber มีต่อการรณรงค์หาเสียงเลือกตั้งแล้ว

เมื่อ Predictive Analytics ส่งผลกระทบต่อชีวิตของผู้คน ปัญหาที่ร้ายกาจโดยเฉพาะอย่างยิ่งเกิดขึ้นจาก Feedback Loop ที่เสริมกำลังตัวเอง ตัวอย่างเช่น พิจารณากรณีนายจ้างใช้คะแนนเครดิตเพื่อประเมินผู้สมัครงาน คุณอาจเป็นพนักงานที่ดีที่มีคะแนนเครดิตดี แต่อยู่ดีๆ ก็พบว่าตัวเองตกอยู่ในปัญหาทางการเงินเนื่องจากโชคร้ายที่อยู่นอกเหนือการควบคุมของคุณ เมื่อคุณเริ่มจ่ายชำระหนี้ไม่ตรงเวลา คะแนนเครดิตของคุณก็แย่ลง และคุณก็จะมีโอกาสหางานทำได้ยากขึ้น การตกงานผลักดันคุณไปสู่ความยากจน ซึ่งยิ่งทำให้คะแนนของคุณแย่ลงไปอีก ทำให้หางานยากยิ่งขึ้น [ 17 ] มันเป็นวงจรขาลงที่เกิดจากสมมติฐานที่เป็นพิษ ซึ่งซ่อนอยู่ภายใต้ลายพรางของความเข้มงวดทางคณิตศาสตร์และข้อมูล

อีกตัวอย่างหนึ่งของ Feedback Loop นักเศรษฐศาสตร์พบว่าเมื่อปั๊มน้ำมันในเยอรมนีนำราคาแบบอัลกอริทึมมาใช้ การแข่งขันลดลงและราคาสำหรับผู้บริโภคสูงขึ้น เนื่องจากอัลกอริทึมเรียนรู้ที่จะสมคบคิดกัน [ 21 ]

เราไม่สามารถคาดเดาได้เสมอไปว่า Feedback Loop แบบนี้จะเกิดขึ้นเมื่อใด อย่างไรก็ตาม ผลกระทบหลายอย่างสามารถคาดการณ์ได้โดยการคิดถึงทั้งระบบ (ไม่ใช่แค่ส่วนที่เป็นคอมพิวเตอร์ แต่รวมถึงผู้คนที่มีปฏิสัมพันธ์กับมันด้วย) — วิธีการที่เรียกว่า Systems Thinking (การคิดเชิงระบบ) [ 22 ] เราสามารถพยายามทำความเข้าใจว่าระบบวิเคราะห์ข้อมูลตอบสนองต่อพฤติกรรม โครงสร้าง หรือลักษณะต่างๆ อย่างไร ระบบตอกย้ำและขยายความแตกต่างที่มีอยู่ระหว่างผู้คน (เช่น ทำให้คนรวยรวยขึ้นหรือคนจนจนลง) หรือพยายามต่อสู้กับความอยุติธรรม? แม้จะมีความตั้งใจดีที่สุด เราก็ต้องระวังถึงความเป็นไปได้ของผลกระทบที่ไม่พึงประสงค์

Privacy and Tracking (ความเป็นส่วนตัวและการติดตาม)

นอกเหนือจากปัญหาของ Predictive Analytics — นั่นคือการใช้ข้อมูลเพื่อตัดสินใจอัตโนมัติเกี่ยวกับผู้คน — ยังมีปัญหาทางจริยธรรมเกี่ยวกับการเก็บรวบรวมข้อมูลด้วยตัวมันเอง ความสัมพันธ์ระหว่างองค์กรที่เก็บรวบรวมข้อมูลกับผู้คนที่ถูกเก็บข้อมูลนั้นเป็นอย่างไร?

เมื่อระบบจัดเก็บเฉพาะข้อมูลที่ผู้ใช้ป้อนอย่างชัดเจน เพราะพวกเขาต้องการให้ระบบจัดเก็บและประมวลผลในลักษณะใดลักษณะหนึ่ง ระบบกำลังให้บริการแก่ผู้ใช้ ผู้ใช้คือลูกค้า แต่เมื่อกิจกรรมของผู้ใช้ถูกติดตามและบันทึกเป็นผลพลอยได้จากสิ่งอื่นที่พวกเขากำลังทำ ความสัมพันธ์นั้นก็ไม่ชัดเจนอีกต่อไป บริการไม่ได้แค่ทำตามที่ผู้ใช้บอกอีกต่อไป มันเริ่มมีความสนใจของตัวเอง ซึ่งอาจขัดแย้งกับความสนใจของผู้ใช้

การติดตามข้อมูลพฤติกรรมมีความสำคัญมากขึ้นสำหรับฟีเจอร์ที่เกี่ยวกับผู้ใช้ (User-Facing Features) ของบริการออนไลน์มากมาย การติดตามว่าผลการค้นหาใดถูกคลิกช่วยปรับปรุงการจัดอันดับผลการค้นหา การให้คำแนะนำ ("คนที่ชอบ X ก็ชอบ Y เช่นกัน") ช่วยให้ผู้ใช้ค้นพบสิ่งที่น่าสนใจและมีประโยชน์ การทดสอบ A/B และการวิเคราะห์ Flow ของผู้ใช้สามารถช่วยบ่งชี้ว่าควรปรับปรุง UI อย่างไร ฟีเจอร์เหล่านี้ต้องการการติดตามพฤติกรรมผู้ใช้ในระดับหนึ่ง และผู้ใช้ก็ได้รับประโยชน์จากมัน

อย่างไรก็ตาม ขึ้นอยู่กับโมเดลธุรกิจของบริษัท การติดตามมักจะไม่หยุดแค่นั้น หากบริการได้รับเงินทุนจากโฆษณา ผู้ลงโฆษณาคือลูกค้าที่แท้จริง และความสนใจของผู้ใช้ก็มีความสำคัญเป็นรอง ข้อมูลการติดตามมีรายละเอียดมากขึ้น การวิเคราะห์ขยายวงกว้างขึ้น และข้อมูลถูกเก็บไว้เป็นเวลานานเพื่อสร้างโปรไฟล์โดยละเอียดของแต่ละบุคคลเพื่อวัตถุประสงค์ทางการตลาด

เมื่อถึงจุดนี้ ความสัมพันธ์ระหว่างบริษัทกับผู้ใช้ที่ข้อมูลถูกเก็บรวบรวมเริ่มดูแตกต่างไปอย่างมาก ผู้ใช้ได้รับบริการฟรีและถูกโน้มน้าวให้มีส่วนร่วมกับมันมากที่สุดเท่าที่จะทำได้ การติดตามผู้ใช้นั้นไม่ได้ให้บริการแก่ตัวบุคคลนั้นเป็นหลัก แต่ตอบสนองความต้องการของผู้ลงโฆษณาที่เป็นผู้ให้ทุนสนับสนุนบริการแทน ความสัมพันธ์นี้สามารถอธิบายได้อย่างเหมาะสมด้วยคำที่มีความหมายแฝงในเชิงลบมากขึ้น: Surveillance (การเฝ้าสังเกต)

Surveillance (การเฝ้าสังเกต)

ในฐานะการทดลองทางความคิด ลองแทนที่คำว่า Data (ข้อมูล) ด้วย Surveillance (การเฝ้าสังเกต) และสังเกตว่าวลีทั่วไปยังฟังดูดีอยู่หรือไม่ [ 23 ] เช่นนี้: "ในองค์กรที่ขับเคลื่อนด้วยการเฝ้าสังเกตของเรา เรารวบรวมสตรีมข้อมูลแบบเรียลไทม์จากการเฝ้าสังเกตและจัดเก็บไว้ในคลังข้อมูลการเฝ้าสังเกตของเรา นักวิทยาศาสตร์ด้านการเฝ้าสังเกตของเราใช้การวิเคราะห์ขั้นสูงและการประมวลผลการเฝ้าสังเกตเพื่อค้นหาข้อมูลเชิงลึกใหม่ๆ"

การทดลองทางความคิดนี้ดูจะเป็นการโต้แย้งที่รุนแรงผิดปกติสำหรับหนังสือ Designing Surveillance-Intensive Applications แต่จำเป็นต้องใช้คำพูดที่หนักแน่นเพื่อเน้นย้ำประเด็นนี้ ในความพยายามของเราที่จะให้ซอฟต์แวร์ "กินโลก" [ 24 ] เราได้สร้างโครงสร้างพื้นฐานการเฝ้าสังเกตมวลชนที่ใหญ่ที่สุดเท่าที่เคยมีมา เรากำลังเข้าใกล้โลกที่ทุกพื้นที่ที่มีคนอาศัยอยู่จะมีไมโครโฟนที่เชื่อมต่ออินเทอร์เน็ตอย่างน้อยหนึ่งตัว ในรูปแบบของสมาร์ทโฟน สมาร์ททีวี อุปกรณ์ช่วยเหลือที่ควบคุมด้วยเสียง Baby Monitor และแม้แต่ของเล่นเด็กที่ใช้การรู้จำเสียงผ่าน Cloud อุปกรณ์เหล่านี้หลายตัวมีประวัติด้านความปลอดภัยที่แย่มาก [ 25 ]

สิ่งที่ใหม่เมื่อเทียบกับอดีตคือการทำเป็นดิจิทัลทำให้การรวบรวมข้อมูลจำนวนมากเกี่ยวกับผู้คนเป็นเรื่องง่าย การเฝ้าสังเกตตำแหน่งที่ตั้งและการเคลื่อนไหว ความสัมพันธ์ทางสังคมและการสื่อสาร การซื้อและการชำระเงิน และข้อมูลสุขภาพของเรา แทบจะหลีกเลี่ยงไม่ได้ องค์กรเฝ้าสังเกตอาจรู้จักบุคคลมากกว่าที่ตัวบุคคลนั้นรู้จักตัวเอง—ตัวอย่างเช่น ระบุความเจ็บป่วยหรือปัญหาเศรษฐกิจก่อนที่บุคคลนั้นจะรู้ตัว

แม้แต่ระบอบเผด็จการและกดขี่ที่สุดในอดีตก็ทำได้แค่ฝันว่าจะวางไมโครโฟนในทุกห้องและบังคับให้ทุกคนพกอุปกรณ์ที่สามารถติดตามตำแหน่งที่ตั้งและการเคลื่อนไหวของพวกเขาตลอดเวลา แต่ประโยชน์ที่เราได้รับจากเทคโนโลยีดิจิทัลนั้นยิ่งใหญ่มากจนตอนนี้เรายอมรับสถานะการเฝ้าสังเกตโดยสมบูรณ์นี้ด้วยความเต็มใจ ข้อแตกต่างก็แค่ข้อมูลถูกรวบรวมโดยบริษัทเพื่อให้บริการแก่เรา แทนที่จะเป็นหน่วยงานรัฐบาลที่แสวงหาการควบคุม [ 26 ]

การเก็บรวบรวมข้อมูลทั้งหมดไม่จำเป็นต้องเข้าข่ายเป็นการเฝ้าสังเกตเสมอไป แต่การตรวจสอบในมุมมองนี้สามารถช่วยให้เราเข้าใจความสัมพันธ์ของเรากับผู้เก็บรวบรวมข้อมูล ทำไมเราถึงดูเหมือนยินดีที่จะยอมรับการเฝ้าสังเกตโดยบริษัท? บางทีคุณอาจรู้สึกว่าคุณไม่มีอะไรต้องปิดบัง — กล่าวคือ คุณสอดคล้องกับโครงสร้างอำนาจที่มีอยู่โดยสมบูรณ์ คุณไม่ได้เป็นชนกลุ่มน้อยที่ถูกละเลย และคุณไม่จำเป็นต้องกลัวการถูกข่มเหง [ 27 ] ไม่ใช่ทุกคนที่โชคดีเท่านั้น หรือบางทีอาจเป็นเพราะจุดประสงค์ดูไม่ร้ายแรง — มันไม่ใช่การบังคับขู่เข็ญและการทำให้คล้อยตามอย่างโจ่งแจ้ง แค่คำแนะนำที่ดีขึ้นและการตลาดที่เป็นส่วนตัวมากขึ้นเท่านั้น อย่างไรก็ตาม เมื่อรวมกับการอภิปรายเกี่ยวกับ Predictive Analytics จากหัวข้อที่แล้ว เส้นแบ่งนั้นดูไม่ชัดเจนนัก

เรากำลังเห็นข้อมูลพฤติกรรมการขับขี่รถยนต์ ซึ่งถูกติดตามโดยรถยนต์โดยไม่ได้รับความยินยอมจากผู้ขับขี่ ส่งผลต่อเบี้ยประกันของพวกเขา [ 28 ] และความคุ้มครองประกันสุขภาพที่ขึ้นอยู่กับการที่ผู้คนสวมใส่อุปกรณ์ติดตามการออกกำลังกาย เมื่อการเฝ้าสังเกตถูกใช้เพื่อตัดสินใจที่มีอำนาจเหนือแง่มุมสำคัญของชีวิต เช่น ความคุ้มครองประกันหรือการจ้างงาน มันก็เริ่มดูไม่เป็นอันตรายอีกต่อไป การวิเคราะห์ข้อมูลยังสามารถเปิดเผยสิ่งที่ล่วงล้ำอย่างน่าประหลาดใจได้—ตัวอย่างเช่น เซ็นเซอร์การเคลื่อนไหวใน Smartwatch หรือ Fitness Tracker สามารถใช้เพื่อระบุสิ่งที่คุณกำลังพิมพ์ (เช่น รหัสผ่าน) ได้ด้วยความแม่นยำที่ค่อนข้างดี [ 29 ] ความแม่นยำของเซ็นเซอร์และอัลกอริทึมสำหรับการวิเคราะห์จะยิ่งดีขึ้นเรื่อยๆ

Consent and Freedom of Choice (ความยินยอมและเสรีภาพในการเลือก)

เราอาจยืนยันว่าผู้ใช้เลือกใช้บริการที่ติดตามกิจกรรมของตนโดยสมัครใจ ยอมรับข้อกำหนดในการให้บริการและนโยบายความเป็นส่วนตัว และยินยอมให้เก็บรวบรวมข้อมูล เราอาจถึงกับอ้างว่าผู้ใช้ได้รับบริการที่มีคุณค่าเป็นการตอบแทนสำหรับข้อมูลที่พวกเขาให้ และการติดตามนั้นจำเป็นเพื่อให้บริการ อย่างไรก็ตาม ไม่ต้องสงสัยเลยว่า Social Network, Search Engine และบริการออนไลน์ฟรีอื่นๆ ต่างๆ มีคุณค่าต่อผู้ใช้ — แต่ข้อโต้แย้งนี้มีปัญหา

ประการแรก เราควรถามว่าทำไมการติดตามจึงจำเป็น การติดตามบางรูปแบบป้อนโดยตรงสู่การปรับปรุงฟีเจอร์สำหรับผู้ใช้—ตัวอย่างเช่น การติดตามอัตราการคลิกผ่านบนผลการค้นหาสามารถช่วยปรับปรุงการจัดอันดับและความเกี่ยวข้องของผลลัพธ์ของ Search Engine และการติดตามว่าลูกค้ามักจะซื้อสินค้าชนิดใดร่วมกันสามารถช่วยให้ร้านค้าออนไลน์แนะนำสินค้าที่เกี่ยวข้องได้ อย่างไรก็ตาม เมื่อติดตามปฏิสัมพันธ์ของผู้ใช้เพื่อแนะนำเนื้อหา หรือเพื่อสร้างโปรไฟล์ผู้ใช้เพื่อวัตถุประสงค์ในการโฆษณา ก็ไม่ชัดเจนนักว่านี่เป็นเพื่อประโยชน์ของผู้ใช้จริงๆ หรือไม่ มันจำเป็นเพียงเพราะโฆษณาจ่ายค่าบริการหรือเปล่า?

ประการที่สอง ผู้ใช้ส่วนใหญ่มีความรู้เพียงเล็กน้อยเกี่ยวกับข้อมูลที่พวกเขาป้อนเข้าสู่ฐานข้อมูลของเรา หรือว่ามันถูกเก็บรักษาและประมวลผลอย่างไร และนโยบายความเป็นส่วนตัวส่วนใหญ่ก็ทำหน้าที่บดบังมากกว่าจะให้ความกระจ่าง หากไม่เข้าใจว่ามีอะไรเกิดขึ้นกับข้อมูลของตน ผู้ใช้ก็ไม่สามารถให้ความยินยอมที่มีความหมายได้ บ่อยครั้งที่ข้อมูลจากผู้ใช้คนหนึ่งยังบอกอะไรบางอย่างเกี่ยวกับบุคคลอื่นที่ไม่ใช่ผู้ใช้ของบริการและไม่ได้ตกลงกับข้อกำหนดใดๆ ชุดข้อมูลที่ได้มา (Derived Datasets) ที่เราพูดถึงในสองสามบทที่ผ่านมา—ซึ่งข้อมูลจากฐานผู้ใช้ทั้งหมดอาจถูกรวมเข้ากับการติดตามพฤติกรรมและแหล่งข้อมูลภายนอก—เป็นประเภทข้อมูลที่ผู้ใช้ไม่สามารถเข้าใจอย่างมีความหมายได้อย่างแน่นอน

ยิ่งไปกว่านั้น ข้อมูลถูกสกัดจากผู้ใช้ผ่านกระบวนการทางเดียว ไม่ใช่ความสัมพันธ์ที่มีการตอบแทนซึ่งกันและกันอย่างแท้จริงหรือการแลกเปลี่ยนมูลค่าที่ยุติธรรม ไม่มีการพูดคุย ไม่มีทางเลือกให้ผู้ใช้ต่อรองว่าต้องให้ข้อมูลมากน้อยเพียงใดและจะได้รับบริการอะไรตอบแทน ความสัมพันธ์ระหว่างบริการกับผู้ใช้เป็นแบบอสมมาตรและข้างเดียว เงื่อนไขถูกกำหนดโดยบริการ ไม่ใช่โดยผู้ใช้ [ 30 , 31 ]

ในสหภาพยุโรป กฎหมายคุ้มครองข้อมูลทั่วไป (General Data Protection Regulation — GDPR) กำหนดให้ความยินยอมต้อง "ให้อย่างอิสระ เฉพาะเจาะจง มีข้อมูล และไม่คลุมเครือ" และผู้ใช้ต้องสามารถ "ปฏิเสธหรือถอนความยินยอมโดยไม่ได้รับผลเสีย" — มิฉะนั้นจะไม่ถือว่า "ให้อย่างอิสระ" คำขอความยินยอมใดๆ ต้องเขียน "ในรูปแบบที่เข้าใจได้และเข้าถึงได้ง่าย โดยใช้ภาษาที่ชัดเจนและเรียบง่าย" และ "การนิ่งเงียบ การติ๊กกล่องไว้ล่วงหน้า หรือการไม่เคลื่อนไหว [ไม่ถือเป็น] ความยินยอม" [ 32 ]

ความยินยอมไม่ใช่พื้นฐานเดียวสำหรับการประมวลผลข้อมูลส่วนบุคคลโดยชอบด้วยกฎหมายภายใต้ GDPR นอกจากนี้ยังมีพื้นฐานอื่นๆ อีกหลายประการ รวมถึงการปฏิบัติตามกฎหมายอื่นหรือการปกป้องชีวิตของใครบางคน นอกจากนี้ พื้นฐานผลประโยชน์ที่ชอบด้วยกฎหมาย (Legitimate Interest) อนุญาตให้ใช้ข้อมูลในบางกรณี (เช่น เพื่อการป้องกันการฉ้อโกง) [ 33 ] (ซึ่งผู้ฉ้อโกงคงไม่ยินยอม) อย่างไรก็ตาม ความยินยอมเป็นพื้นฐานที่ใช้บ่อยที่สุดสำหรับการประมวลผลข้อมูลส่วนบุคคลในบริการอินเทอร์เน็ต

คุณอาจโต้แย้งว่าผู้ใช้ที่ไม่ยินยอมให้ถูกเฝ้าสังเกตก็สามารถเลือกที่จะไม่ใช้บริการได้ แต่ทางเลือกนี้ก็ไม่เป็นอิสระเช่นกัน หากบริการเป็นที่นิยมมากจน "คนส่วนใหญ่ถือว่าจำเป็นสำหรับการมีส่วนร่วมทางสังคมขั้นพื้นฐาน" [ 30 ] ก็ไม่สมเหตุสมผลที่จะคาดหวังให้ผู้คนเลือกที่จะไม่ใช้มัน — การใช้งานมันกลายเป็นข้อบังคับโดยพฤตินัย ตัวอย่างเช่น ในสังคมตะวันตกส่วนใหญ่ การพกสมาร์ทโฟน การใช้ Social Network เพื่อเข้าสังคม และการใช้ Google เพื่อค้นหาข้อมูลกลายเป็นบรรทัดฐานไปแล้ว โดยเฉพาะอย่างยิ่งเมื่อบริการมี Network Effects ก็จะมีต้นทุนทางสังคมสำหรับคนที่เลือก ไม่ ใช้มัน

การปฏิเสธที่จะใช้บริการเพราะนโยบายการติดตามผู้ใช้นั้นพูดง่ายกว่าทำ แพลตฟอร์มเหล่านี้ถูกออกแบบมาเพื่อดึงดูดผู้ใช้โดยเฉพาะ หลายแห่งใช้ Game Mechanics และกลวิธีที่พบได้ทั่วไปในการพนันเพื่อให้ผู้ใช้กลับมาใช้ซ้ำ [ 34 ] แม้ว่าผู้ใช้จะผ่านพ้นสิ่งนี้ไปได้ การปฏิเสธที่จะมีส่วนร่วมก็เป็นทางเลือกสำหรับคนจำนวนน้อยที่ได้รับสิทธิพิเศษเพียงพอที่จะมีเวลาและความรู้ในการทำความเข้าใจนโยบายความเป็นส่วนตัวของมัน และที่สามารถแบกรับความเสี่ยงที่จะพลาดโอกาสในการมีส่วนร่วมทางสังคมหรือโอกาสทางอาชีพที่อาจเกิดขึ้นหากพวกเขาได้เข้าร่วมใช้บริการ สำหรับคนในตำแหน่งที่เสียเปรียบน้อยกว่า ไม่มีเสรีภาพในการเลือกที่มีความหมาย การเฝ้าสังเกตกลายเป็นสิ่งที่หลีกเลี่ยงไม่ได้

Privacy and Use of Data (ความเป็นส่วนตัวและการใช้ข้อมูล)

บางครั้งผู้คนอ้างว่า "ความเป็นส่วนตัวตายแล้ว" โดยอ้างว่าผู้ใช้บางคนเต็มใจที่จะโพสต์ทุกอย่างเกี่ยวกับชีวิตของตนลงบน Social Media ทั้งเรื่องธรรมดาและเรื่องส่วนตัวอย่างลึกซึ้ง อย่างไรก็ตาม ข้ออ้างนี้ไม่ถูกต้องและตั้งอยู่บนความเข้าใจผิดเกี่ยวกับคำว่า Privacy (ความเป็นส่วนตัว)

การมีความเป็นส่วนตัวไม่ได้หมายถึงการเก็บทุกอย่างเป็นความลับ มันหมายถึงการมีอิสระในการเลือกว่าจะเปิดเผยอะไรให้ใคร สิ่งใดที่จะทำให้เป็นสาธารณะ และสิ่งใดที่จะเก็บเป็นความลับ สิทธิในความเป็นส่วนตัวเป็นสิทธิในการตัดสินใจ: มันทำให้แต่ละคนสามารถตัดสินใจได้ว่าต้องการอยู่จุดไหนบนสเปกตรัมระหว่างความลับและความโปร่งใสในแต่ละสถานการณ์ [ 30 ] มันเป็นแง่มุมสำคัญของเสรีภาพและอำนาจในการกำหนดตนเองของบุคคล

ตัวอย่างเช่น ผู้ที่ป่วยเป็นโรคที่หายากอาจยินดีอย่างยิ่งที่จะให้ข้อมูลทางการแพทย์ส่วนตัวของตนแก่นักวิจัย หากมันอาจช่วยพัฒนาการรักษาสำหรับอาการป่วยของพวกเขา อย่างไรก็ตาม บุคคลนี้ต้องมีทางเลือกว่าใครสามารถเข้าถึงข้อมูลนี้และเพื่อวัตถุประสงค์ใด หากข้อมูลเกี่ยวกับอาการป่วยของพวกเขาอาจเป็นอุปสรรคต่อการเข้าถึงประกันสุขภาพหรือการจ้างงาน บุคคลนี้ก็คงจะระมัดระวังมากขึ้นในการแบ่งปันข้อมูลของตน

เมื่อข้อมูลถูกสกัดจากผู้คนผ่านโครงสร้างพื้นฐานการเฝ้าสังเกต สิทธิ์ความเป็นส่วนตัวไม่ได้ถูกทำลายลง แต่ถูกโอนย้ายไปยังผู้เก็บรวบรวมข้อมูล บริษัทที่ได้มาซึ่งข้อมูลโดยพื้นฐานแล้วพูดว่า "เชื่อใจเราว่าจะทำสิ่งที่ถูกต้องกับข้อมูลของคุณ" ซึ่งหมายความว่าสิทธิในการตัดสินใจว่าจะเปิดเผยอะไรและเก็บอะไรเป็นความลับถูกโอนจากบุคคลไปยังบริษัท

ในทางกลับกัน บริษัทต่างๆ เลือกที่จะเก็บผลลัพธ์ส่วนใหญ่ของการเฝ้าสังเกตนี้เป็นความลับ เพราะการเปิดเผยมันจะถูกมองว่าน่าขนลุกและเป็นอันตรายต่อโมเดลธุรกิจของพวกเขา (ซึ่งอาศัยการรู้จักผู้คนมากกว่าบริษัทอื่น) ข้อมูลใกล้ชิดเกี่ยวกับผู้ใช้ถูกเปิดเผยเพียงทางอ้อม—ตัวอย่างเช่น ในรูปแบบของเครื่องมือสำหรับกำหนดเป้าหมายโฆษณาไปยังกลุ่มคนเฉพาะ (เช่น ผู้ที่ป่วยเป็นโรคใดโรคหนึ่ง)

แม้ว่าผู้ใช้เฉพาะรายจะไม่สามารถถูกระบุตัวตนใหม่ได้จากกลุ่มคนที่ถูกกำหนดเป้าหมายโดยโฆษณาเฉพาะ พวกเขาก็สูญเสียอำนาจในการควบคุมการเปิดเผยข้อมูลใกล้ชิดบางอย่าง ไม่ใช่ผู้ใช้ที่เป็นผู้ตัดสินใจว่าจะเปิดเผยอะไรให้ใครโดยพิจารณาจากความชอบส่วนตัวของพวกเขา — แต่เป็นบริษัทที่ใช้สิทธิ์ความเป็นส่วนตัวโดยมีเป้าหมายเพื่อเพิ่มผลกำไรสูงสุด

หลายบริษัทต้องการหลีกเลี่ยงการ ถูกมองว่า น่าขนลุก โดยหลีกเลี่ยงคำถามว่าการเก็บรวบรวมข้อมูลของพวกเขาล่วงล้ำแค่ไหน และมุ่งเน้นไปที่การจัดการการรับรู้ของผู้ใช้แทน และแม้แต่การรับรู้เหล่านี้ก็มักถูกจัดการได้ไม่ดี—ตัวอย่างเช่น บางสิ่งอาจถูกต้องตามข้อเท็จจริง แต่ถ้ามันกระตุ้นความทรงจำที่เจ็บปวด ผู้ใช้อาจไม่ต้องการให้ถูกเตือนถึงมัน [ 35 ] ด้วยข้อมูลทุกประเภท เราควรคาดหวังถึงความเป็นไปได้ที่มันจะผิด ไม่พึงประสงค์ หรือไม่เหมาะสมในทางใดทางหนึ่ง และเราจำเป็นต้องสร้างกลไกสำหรับจัดการกับความล้มเหลวเหล่านั้น สิ่งที่ "ไม่พึงประสงค์" หรือ "ไม่เหมาะสม" นั้นขึ้นอยู่กับการตัดสินใจของมนุษย์ อัลกอริทึมไม่รู้จักแนวคิดเหล่านี้เว้นแต่เราจะเขียนโปรแกรมให้มันเคารพความต้องการของมนุษย์อย่างชัดเจน ในฐานะวิศวกรของระบบเหล่านี้ เราต้องถ่อมตน ยอมรับและวางแผนสำหรับข้อบกพร่องดังกล่าว

การตั้งค่าความเป็นส่วนตัวที่อนุญาตให้ผู้ใช้บริการออนไลน์ควบคุมว่าแง่มุมใดของข้อมูลที่ผู้ใช้คนอื่นสามารถเห็นได้ เป็นจุดเริ่มต้นในการคืนการควบคุมบางส่วนกลับไปยังผู้ใช้ อย่างไรก็ตาม ไม่ว่าการตั้งค่าจะเป็นอย่างไร ตัวบริการเองยังคงสามารถเข้าถึงข้อมูลได้อย่างไม่จำกัดและมีอิสระที่จะใช้มันในทางใดก็ตามที่ได้รับอนุญาตตามนโยบายความเป็นส่วนตัว แม้บริการจะสัญญาว่าจะไม่ขายข้อมูลให้บุคคลที่สาม โดยปกติแล้วมันก็จะให้สิทธิ์ตัวเองอย่างไม่จำกัดในการประมวลผลและวิเคราะห์ข้อมูลภายใน ซึ่งมักจะไปไกลเกินกว่าที่ผู้ใช้จะมองเห็นได้อย่างชัดเจน

การถ่ายโอนสิทธิ์ความเป็นส่วนตัวขนาดใหญ่จากบุคคลสู่บริษัทในลักษณะนี้ไม่เคยมีมาก่อนในประวัติศาสตร์ [ 30 ] การเฝ้าสังเกตมีมาโดยตลอด แต่มันเคยมีราคาแพงและต้องทำด้วยมือ ไม่สามารถปรับขนาดได้และอัตโนมัติ ความสัมพันธ์ที่มีพื้นฐานมาจากความไว้วางใจมีมาโดยตลอด—เช่น ระหว่างคนไข้กับแพทย์ หรือระหว่างจำเลยกับทนาย—แต่ในกรณีเหล่านี้ การใช้ข้อมูลถูกควบคุมอย่างเข้มงวดโดยข้อบังคับทางจริยธรรม กฎหมาย และกฎระเบียบ บริการอินเทอร์เน็ตทำให้การรวบรวมข้อมูลที่ละเอียดอ่อนจำนวนมหาศาลโดยปราศจากความยินยอมที่มีความหมาย และการใช้มันในระดับใหญ่โดยที่ผู้ใช้ไม่เข้าใจว่าเกิดอะไรขึ้นกับข้อมูลส่วนตัวของพวกเขา กลายเป็นเรื่องง่ายขึ้นมาก

Data as Assets and Power (ข้อมูลในฐานะสินทรัพย์และอำนาจ)

เนื่องจากข้อมูลพฤติกรรมเป็นผลพลอยได้จากปฏิสัมพันธ์ของผู้ใช้กับบริการ บางครั้งมันถูกเรียกว่า "ไอเสียข้อมูล" (Data Exhaust) — ซึ่งสื่อเป็นนัยว่าข้อมูลนั้นเป็นวัสดุเหลือใช้ที่ไร้ค่า เมื่อมองในมุมนี้ Predictive Analytics และ Behavioral Analytics สามารถถูกมองว่าเป็นรูปแบบหนึ่งของการรีไซเคิลที่สกัดมูลค่าจากข้อมูลที่มิฉะนั้นจะถูกทิ้งไป

ที่ถูกต้องกว่านั้นคือการมองกลับกัน จากมุมมองทางเศรษฐกิจ หากการโฆษณาแบบกำหนดเป้าหมายคือสิ่งที่จ่ายค่าบริการ กิจกรรมของผู้ใช้ที่สร้างข้อมูลพฤติกรรมก็ถือได้ว่าเป็นรูปแบบหนึ่งของแรงงาน [ 36 ] อาจโต้แย้งต่อไปอีกว่าแอปพลิเคชันที่ผู้ใช้โต้ตอบด้วยนั้นเป็นเพียงเครื่องมือในการล่อลวงให้ผู้ใช้ป้อนข้อมูลส่วนตัวมากขึ้นเรื่อยๆ เข้าสู่โครงสร้างพื้นฐานการเฝ้าสังเกต [ 30 ] ความคิดสร้างสรรค์และความสัมพันธ์ทางสังคมอันน่าพิศวงของมนุษย์ที่มักแสดงออกในบริการออนไลน์ ถูกเอารัดเอาเปรียบอย่างเหยียดหยามโดยเครื่องจักรสกัดข้อมูล

ข้อมูลส่วนบุคคลเป็นสินทรัพย์ที่มีค่า เห็นได้จากมีนายหน้าข้อมูล (Data Brokers) ที่ดำเนินการอย่างลับๆ ซื้อ รวบรวม วิเคราะห์ และขายต่อข้อมูลส่วนบุคคลของผู้คน ส่วนใหญ่เพื่อวัตถุประสงค์ทางการตลาด [ 20 ] สตาร์ทอัพระบุมูลค่าด้วยจำนวนผู้ใช้ หรือ "Eyeballs" — นั่นคือ ด้วยความสามารถในการเฝ้าสังเกตของพวกเขา

เพราะข้อมูลมีค่า หลายคนจึงต้องการมัน แน่นอนว่าบริษัทต้องการมัน — นั่นคือเหตุผลที่พวกเขาเก็บรวบรวมมันตั้งแต่แรก แต่รัฐบาลก็ต้องการมันเช่นกัน และพวกเขาอาจแสวงหาเพื่อให้ได้มาโดยวิธีลับ การบีบบังคับ การบังคับทางกฎหมาย หรือเพียงแค่การขโมย [ 37 ] เมื่อบริษัทล้มละลาย ข้อมูลส่วนบุคคลที่มันเก็บรวบรวมไว้เป็นหนึ่งในสินทรัพย์ที่ถูกขาย และเนื่องจากข้อมูลยากที่จะรักษาความปลอดภัย การละเมิดจึงเกิดขึ้นบ่อยครั้งอย่างน่าตกใจ

การสังเกตเหล่านี้ทำให้นักวิจารณ์กล่าวว่าข้อมูลไม่ใช่แค่สินทรัพย์ แต่เป็น "สินทรัพย์ที่เป็นพิษ" (Toxic Asset) [ 37 ] หรืออย่างน้อยก็ "วัสดุอันตราย" (Hazardous Material) [ 38 ] บางทีข้อมูลอาจไม่ใช่ทองคำใหม่ หรือน้ำมันใหม่ แต่มันคือยูเรเนียมใหม่ [ 39 ] ถึงแม้เราจะคิดว่าเราสามารถป้องกันการละเมิดข้อมูลได้ เมื่อใดก็ตามที่เราเก็บรวบรวมมัน เราจำเป็นต้องชั่งน้ำหนักระหว่างผลประโยชน์กับความเสี่ยงที่มันจะตกไปอยู่ในมือคนผิด ระบบคอมพิวเตอร์อาจถูกบุกรุกโดยอาชญากรหรือหน่วยข่าวกรองต่างประเทศที่เป็นศัตรู ข้อมูลอาจถูกเปิดเผยโดยบุคคลภายใน บริษัทอาจตกไปอยู่ในมือของผู้บริหารที่ไร้ยางอายซึ่งไม่มีค่านิยมร่วมกัน หรือประเทศอาจถูกยึดครองโดยระบอบการปกครองที่ไม่มีความรู้สึกผิดชอบใดๆ ในการบังคับให้เราส่งมอบข้อมูล

ดังที่ข้อสังเกตนั้นชี้ให้เห็น เมื่อเก็บรวบรวมข้อมูล เราต้องพิจารณาไม่เพียงแค่สภาพแวดล้อมทางการเมืองในวันนี้ แต่รวมถึงรัฐบาลในอนาคตที่เป็นไปได้ทั้งหมด ไม่มีการรับประกันว่ารัฐบาลที่ได้รับเลือกในอนาคตทั้งหมดจะเคารพสิทธิมนุษยชนและเสรีภาพของพลเมือง และดังที่ Bruce Schneier ตั้งข้อสังเกตว่า "มันเป็นสุขอนามัยทางสังคมที่ไม่ดีที่จะติดตั้งเทคโนโลยีที่อาจอำนวยความสะดวกให้กับรัฐตำรวจในสักวันหนึ่ง" [ 40 ]

"ความรู้คืออำนาจ" ดังคำกล่าวโบราณที่ว่า และยิ่งไปกว่านั้น "การตรวจสอบผู้อื่นในขณะที่หลีกเลี่ยงการถูกตรวจสอบตนเอง เป็นหนึ่งในรูปแบบอำนาจที่สำคัญที่สุด" [ 41 ] นี่คือเหตุผลที่รัฐบาลเผด็จการต้องการการเฝ้าสังเกต: มันให้อำนาจแก่พวกเขาในการควบคุมประชากร แม้ว่าบริษัทเทคโนโลยีในปัจจุบันจะไม่ได้แสวงหาอำนาจทางการเมืองอย่างโจ่งแจ้ง แต่ข้อมูลและความรู้ที่พวกเขาสะสมไว้—ส่วนใหญ่ทำอย่างลับๆ นอกเหนือจากการตรวจสอบของสาธารณชน—ก็ยังคงให้อำนาจมากมายแก่พวกเขาเหนือชีวิตของเรา [ 42 ]

Remembering the Industrial Revolution (รำลึกถึงการปฏิวัติอุตสาหกรรม)

ข้อมูลเป็นลักษณะเด่นที่นิยามยุคสารสนเทศ อินเทอร์เน็ต การจัดเก็บและประมวลผลข้อมูล และระบบอัตโนมัติที่ขับเคลื่อนด้วยซอฟต์แวร์กำลังส่งผลกระทบอย่างมากต่อเศรษฐกิจโลกและสังคมมนุษย์ ในขณะที่ชีวิตประจำวันและการจัดระเบียบสังคมของเราได้เปลี่ยนแปลงไปโดยเทคโนโลยีสารสนเทศ และอาจจะยังคงเปลี่ยนแปลงอย่างรุนแรงต่อไปในอีกหลายทศวรรษข้างหน้า การเปรียบเทียบกับการปฏิวัติอุตสาหกรรมก็ผุดขึ้นมาในใจ [ 17 , 26 ]

การปฏิวัติอุตสาหกรรมเกิดขึ้นจากความก้าวหน้าทางเทคโนโลยีและการเกษตรครั้งใหญ่ และนำมาซึ่งการเติบโตทางเศรษฐกิจที่ยั่งยืนและการปรับปรุงมาตรฐานการครองชีพอย่างมีนัยสำคัญในระยะยาว — แต่มันก็มาพร้อมกับปัญหาใหญ่เช่นกัน มลพิษทางอากาศ (จากควันและกระบวนการทางเคมี) และทางน้ำ (จากของเสียทางอุตสาหกรรมและของมนุษย์) เป็นสิ่งที่น่ากลัว เจ้าของโรงงานอยู่อย่างหรูหรา ขณะที่คนงานในเมืองมักอาศัยอยู่ในที่อยู่อาศัยที่คับแคบและไม่ถูกสุขลักษณะ และทำงานเป็นเวลานานในสภาพที่โหดร้าย การใช้แรงงานเด็กเป็นเรื่องปกติ รวมถึงงานในเหมืองที่อันตรายและได้รับค่าจ้างต่ำ

ต้องใช้เวลานานก่อนที่มาตรการป้องกันจะถูกสร้างขึ้น เช่น กฎระเบียบการปกป้องสิ่งแวดล้อม ระเบียบปฏิบัติด้านความปลอดภัยในสถานที่ทำงาน กฎหมายห้ามใช้แรงงานเด็ก และการตรวจสอบสุขอนามัยของอาหาร ไม่ต้องสงสัยเลยว่าต้นทุนในการทำธุรกิจเพิ่มขึ้นเมื่อโรงงานไม่ได้รับอนุญาตให้ทิ้งของเสียลงแม่น้ำ ขายอาหารที่ปนเปื้อน หรือเอารัดเอาเปรียบคนงานอีกต่อไป แต่สังคมโดยรวมได้รับประโยชน์อย่างมหาศาลจากกฎระเบียบเหล่านี้ และมีพวกเราน้อยคนนักที่จะอยากกลับไปสู่ยุคก่อนหน้านี้ [ 17 ]

เช่นเดียวกับการปฏิวัติอุตสาหกรรมที่มีด้านมืดที่ต้องจัดการ การเปลี่ยนผ่านของเราสู่ยุคสารสนเทศก็มีปัญหาใหญ่ที่เราต้องเผชิญและแก้ไข [ 43 , 44 ] การเก็บรวบรวมและการใช้ข้อมูลเป็นหนึ่งในปัญหาเหล่านั้น ในคำพูดของ Bruce Schneier [ 26 ]:

ข้อมูลคือปัญหามลพิษของยุคสารสนเทศ และการปกป้องความเป็นส่วนตัวคือความท้าทายด้านสิ่งแวดล้อม คอมพิวเตอร์เกือบทุกเครื่องผลิตข้อมูล มันคงอยู่ เน่าเปื่อยไป วิธีที่เราจัดการกับมัน—วิธีที่เรากักเก็บมันและวิธีที่เรากำจัดมัน—เป็นหัวใจสำคัญของสุขภาพเศรษฐกิจสารสนเทศของเรา เช่นเดียวกับที่วันนี้เรามองย้อนกลับไปยังทศวรรษแรกๆ ของยุคอุตสาหกรรมและสงสัยว่าบรรพบุรุษของเราสามารถละเลยมลพิษในขณะที่เร่งรีบสร้างโลกอุตสาหกรรมได้อย่างไร หลานๆ ของเราก็จะมองย้อนกลับมาที่เราในช่วงทศวรรษแรกๆ ของยุคสารสนเทศนี้ และตัดสินเราจากวิธีที่เราจัดการกับความท้าทายของการเก็บรวบรวมข้อมูลและการใช้ข้อมูลในทางที่ผิด

เราควรพยายามทำให้พวกเขาภูมิใจ

Legislation and Self-Regulation (กฎหมายและการกำกับดูแลตนเอง)

กฎหมายคุ้มครองข้อมูลอาจช่วยรักษาสิทธิของบุคคลได้ ตัวอย่างเช่น GDPR ระบุว่าข้อมูลส่วนบุคคลต้องถูก "เก็บรวบรวมเพื่อวัตถุประสงค์ที่ระบุไว้ ชัดเจน และชอบด้วยกฎหมาย และไม่ถูกประมวลผลต่อไปในลักษณะที่ขัดแย้งกับวัตถุประสงค์เหล่านั้น" และต้อง "เพียงพอ เกี่ยวข้อง และจำกัดเฉพาะสิ่งที่จำเป็นในส่วนที่เกี่ยวกับวัตถุประสงค์ที่ [มัน] ถูกประมวลผล" [ 32 ]

อย่างไรก็ตาม หลักการของ Data Minimization (การลดปริมาณข้อมูลให้น้อยที่สุด) นี้ขัดแย้งโดยตรงกับปรัชญาของ Big Data ซึ่งคือการเพิ่มการเก็บรวบรวมข้อมูลให้สูงสุด การรวมข้อมูลที่รวบรวมได้กับชุดข้อมูลอื่น และการทดลองและสำรวจเพื่อสร้างข้อมูลเชิงลึกใหม่ การสำรวจหมายถึงการใช้ข้อมูลเพื่อวัตถุประสงค์ที่คาดไม่ถึง ซึ่ง GDPR ระบุว่าตรงกันข้ามกับวัตถุประสงค์ "ที่ระบุไว้และชัดเจน" ซึ่งต้องเป็นวัตถุประสงค์ที่เก็บรวบรวมข้อมูลมา แม้ว่ากฎระเบียบนี้จะมีผลกระทบบางอย่างต่ออุตสาหกรรมโฆษณาออนไลน์ [ 45 ] แต่มันก็ถูกบังคับใช้อย่างอ่อนแอ [ 46 ] และดูเหมือนจะไม่นำไปสู่การเปลี่ยนแปลงทางวัฒนธรรมและแนวปฏิบัติในวงกว้างในอุตสาหกรรมเทคโนโลยี

บริษัทที่รวบรวมข้อมูลจำนวนมากเกี่ยวกับผู้คนส่วนใหญ่คัดค้านกฎระเบียบว่าเป็นภาระและอุปสรรคต่อนวัตกรรม ในระดับหนึ่ง การคัดค้านนั้นก็สมเหตุสมผล ตัวอย่างเช่น การแบ่งปันข้อมูลทางการแพทย์สร้างความเสี่ยงที่ชัดเจนต่อความเป็นส่วนตัว แต่ก็สร้างโอกาสที่มีศักยภาพเช่นกัน: จะป้องกันการเสียชีวิตได้กี่รายหากการวิเคราะห์ข้อมูลสามารถช่วยให้เราบรรลุการวินิจฉัยที่ดีขึ้นหรือหาวิธีรักษาที่ดีขึ้น [ 47 ]? การควบคุมที่มากเกินไปอาจขัดขวางความก้าวหน้าเช่นนี้ เป็นเรื่องยากที่จะสร้างสมดุลระหว่างโอกาสที่มีศักยภาพกับความเสี่ยง [ 41 ]

โดยพื้นฐานแล้ว เราต้องการการเปลี่ยนแปลงทางวัฒนธรรมในอุตสาหกรรมเทคโนโลยีในเรื่องข้อมูลส่วนบุคคล เราควรหยุดมองผู้ใช้เป็นตัวชี้วัดที่ต้องทำ optimization และจำไว้ว่าพวกเขาเป็นมนุษย์ที่สมควรได้รับความเคารพ ศักดิ์ศรี และอำนาจในการตัดสินใจ เราควรกำกับดูแลการเก็บรวบรวมและประมวลผลข้อมูลของเราเอง เพื่อสร้างและรักษาความไว้วางใจของผู้คนที่พึ่งพาซอฟต์แวร์ของเรา [ 48 ] และเราควรรับภาระหน้าที่ในการให้ความรู้แก่ผู้ใช้ปลายทางเกี่ยวกับวิธีการใช้ข้อมูลของพวกเขา แทนที่จะปิดบังพวกเขา

เราควรยอมให้แต่ละบุคคลรักษาความเป็นส่วนตัวของตน (นั่นคือ การควบคุมข้อมูลของตนเอง) และไม่ขโมยการควบคุมนั้นจากพวกเขาผ่านการเฝ้าสังเกต สิทธิส่วนบุคคลของเราในการควบคุมข้อมูลของเราเปรียบเสมือนสภาพแวดล้อมทางธรรมชาติของอุทยานแห่งชาติ: หากเราไม่ปกป้องและดูแลมันอย่างชัดเจน มันก็จะถูกทำลาย มันจะเป็นโศกนาฏกรรมของสาธารณสมบัติ (Tragedy of the Commons) และเราทุกคนจะแย่ลงเพราะมัน การเฝ้าสังเกตที่แพร่หลายไม่ได้เป็นสิ่งหลีกเลี่ยงไม่ได้ เรายังสามารถหยุดมันได้

ในขั้นแรก เราไม่ควรเก็บข้อมูลไว้ตลอดไป แต่ควรลบข้อมูลทันทีที่ไม่จำเป็นอีกต่อไป และลดสิ่งที่เราเก็บรวบรวมตั้งแต่แรก [ 48 , 49 ] ข้อมูลที่คุณไม่มีคือข้อมูลที่ไม่สามารถรั่วไหล ถูกขโมย หรือถูกบังคับโดยรัฐบาลให้ส่งมอบ โดยรวมแล้ว การเปลี่ยนแปลงทางวัฒนธรรมและทัศนคติจะมีความจำเป็น ในฐานะคนที่ทำงานด้านเทคโนโลยี หากเราไม่พิจารณาผลกระทบทางสังคมของงานของเรา เราก็ไม่ได้ทำหน้าที่ของเรา [ 50 ]

Summary (สรุป)

นี่นำเรามาสู่จุดสิ้นสุดของหนังสือ เราได้ครอบคลุมเนื้อหามามากมาย:

• ใน บทที่ 1 เราเปรียบเทียบระบบวิเคราะห์ (Analytical) กับระบบปฏิบัติการ (Operational) เปรียบเทียบ Cloud กับการโฮสต์ด้วยตนเอง ชั่งน้ำหนักระหว่างระบบกระจายและระบบเครื่องเดียว และหารือเกี่ยวกับการสร้างสมดุลระหว่างความต้องการของธุรกิจกับความต้องการของผู้ใช้

• ใน บทที่ 2 เราได้เห็นวิธีการนิยามข้อกำหนดที่ไม่ใช่เชิงฟังก์ชัน (Nonfunctional Requirements) หลายประการ เช่น ประสิทธิภาพ (Performance) ความน่าเชื่อถือ (Reliability) ความสามารถในการปรับขนาด (Scalability) และความสามารถในการบำรุงรักษา (Maintainability)

• ใน บทที่ 3 เราได้สำรวจสเปกตรัมของโมเดลข้อมูล รวมถึงโมเดลเชิงสัมพันธ์ (Relational) โมเดลเอกสาร (Document) และโมเดลกราฟ (Graph), Event Sourcing และ DataFrames เรายังดูตัวอย่างภาษาคิวรีต่างๆ รวมถึง SQL, Cypher, SPARQL, Datalog และ GraphQL

• ใน บทที่ 4 เราได้พูดถึง Storage Engine สำหรับ OLTP (LSM-Trees และ B-Trees) และการวิเคราะห์ (Column-Oriented Storage) รวมถึง Index สำหรับการค้นคืนสารสนเทศ (Full-Text และ Vector Search)

• ใน บทที่ 5 เราได้ศึกษาเกี่ยวกับวิธีการเข้ารหัสอ็อบเจ็กต์ข้อมูลเป็น Byte และวิธีรองรับการเปลี่ยนแปลง (Evolution) เมื่อความต้องการเปลี่ยนไป เรายังเปรียบเทียบวิธีต่างๆ ที่ข้อมูลไหลระหว่าง Process: ผ่าน Database, Service Call, Workflow Engine และ Event-Driven Architecture

• ใน บทที่ 6 เราได้ศึกษา Trade-Offs ระหว่าง Single-Leader, Multi-Leader และ Leaderless Replication เรายังดูโมเดลความสอดคล้อง (Consistency Model) เช่น Read-After-Write Consistency และ Sync Engine ที่ให้ Client ทำงานแบบออฟไลน์

• ใน บทที่ 7 เราได้ดู Sharding รวมถึงกลยุทธ์สำหรับ Rebalancing, Request Routing และ Secondary Indexing

• ใน บทที่ 8 เราได้ครอบคลุม Transaction โดยพิจารณา Durability, วิธีการบรรลุระดับ Isolation ต่างๆ (Read Committed, Snapshot Isolation, และ Serializable) และวิธีการรับประกัน Atomicity ใน Distributed Transaction

• ใน บทที่ 9 เราได้สำรวจปัญหาพื้นฐานที่เกิดขึ้นในระบบกระจาย (Network Faults and Delays, Clock Errors, Process Pauses, Crashes) และได้เห็นว่ามันทำให้ยากเพียงใดในการนำแม้กระทั่งสิ่งที่ดูเรียบง่ายอย่าง Lock ไปใช้อย่างถูกต้อง

• ใน บทที่ 10 เราได้ดำดิ่งลึกเข้าไปในรูปแบบต่างๆ ของ Consensus และโมเดลความสอดคล้อง (Linearizability) ที่มันทำให้เป็นไปได้

• ใน บทที่ 11 เราได้เจาะลึก Batch Processing โดยเริ่มจาก Chain ง่ายๆ ของ Unix Tools ไปจนถึง Distributed Batch Processor ขนาดใหญ่ที่ใช้ Distributed Filesystem หรือ Object Store

• ใน บทที่ 12 เราได้ขยาย Batch Processing ไปสู่ Stream Processing และพูดถึง Message Broker พื้นฐาน, CDC, Fault Tolerance และรูปแบบการประมวลผล เช่น Streaming Joins

• ใน บทที่ 13 เราได้สำรวจปรัชญาของระบบ Streaming ที่ช่วยให้ระบบข้อมูลที่แตกต่างกันสามารถบูรณาการกันได้ ระบบสามารถพัฒนา (Evolve) และแอปพลิเคชันสามารถปรับขนาดได้ง่ายขึ้น

สุดท้ายนี้ ในบทสุดท้ายนี้ เราได้ถอยกลับมาและตรวจสอบแง่มุมทางจริยธรรมบางประการของการสร้างแอปพลิเคชันที่เน้นข้อมูลเป็นศูนย์กลาง (Data-Intensive Applications) เราได้เห็นว่าแม้ข้อมูลสามารถใช้เพื่อทำความดีได้ แต่มันก็สามารถก่อให้เกิดอันตรายอย่างมีนัยสำคัญได้เช่นกัน: การตัดสินใจที่ส่งผลกระทบร้ายแรงต่อชีวิตผู้คนและยากที่จะอุทธรณ์ นำไปสู่การเลือกปฏิบัติและการเอารัดเอาเปรียบ ทำให้การเฝ้าสังเกตกลายเป็นเรื่องปกติ และเปิดเผยข้อมูลส่วนตัวที่ใกล้ชิด เรายังเผชิญกับความเสี่ยงของการรั่วไหลของข้อมูล และเราอาจพบว่าการใช้ข้อมูลที่มีเจตนาดีนั้นมีผลกระทบที่ไม่พึงประสงค์

ด้วยผลกระทบอันใหญ่หลวงที่ซอฟต์แวร์และข้อมูลมีต่อโลก ในฐานะวิศวกร เราต้องจำไว้ว่าเรามีความรับผิดชอบที่จะทำงานเพื่อสร้างโลกแบบที่เราอยากอาศัยอยู่: โลกที่ปฏิบัติต่อผู้คนด้วยความเป็นมนุษย์และความเคารพ มาทำงานร่วมกันไปสู่เป้าหมายนั้นกันเถอะ