การป้อนระบบ AI ด้วยความงาม ความน่าเกลียด และความโหดร้ายของโลก แต่กลับคาดหวังให้มันสะท้อนแค่ความงามนั้นเป็นเพียงจินตนาการ

Vinay Uday Prabhu และ Abeba Birhane, "Large Datasets: A Pyrrhic Win for Computer Vision?" (2020)

ในบทสุดท้ายของหนังสือเล่มนี้ ขอให้เราถอยกลับมามองภาพรวมกันสักเล็กน้อย ตลอดทั้งเล่มเราได้สำรวจสถาปัตยกรรมที่หลากหลายสำหรับระบบข้อมูล ประเมินข้อดีข้อเสียของแต่ละแบบ และเรียนรู้เทคนิคในการสร้างแอปพลิเคชันที่เชื่อถือได้ ปรับขนาดได้ และบำรุงรักษาได้ อย่างไรก็ตาม เรายังละเลยส่วนสำคัญของการสนทนาไว้ ซึ่งตอนนี้เราควรเติมเต็มมันเสียที

ทุกระบบถูกสร้างขึ้นเพื่อจุดประสงค์บางอย่าง ทุกการกระทำที่เราทำล้วนมีทั้งผลลัพธ์ที่ตั้งใจและไม่ตั้งใจ จุดประสงค์อาจเรียบง่ายแค่การทำเงิน แต่ผลกระทบอาจกว้างไกลเกินกว่าที่คิด พวกเราวิศวกรผู้สร้างระบบเหล่านี้ มีความรับผิดชอบที่จะต้องพิจารณาผลกระทบเหล่านั้นอย่างรอบคอบ และต้องมั่นใจว่าการตัดสินใจของเราจะไม่ก่อให้เกิดอันตราย

เราพูดถึงข้อมูลในฐานะสิ่งที่เป็นนามธรรม แต่โปรดจำไว้ว่าข้อมูลจำนวนมากนั้นเกี่ยวกับผู้คน: พฤติกรรม ความสนใจ อัตลักษณ์ของพวกเขา เราต้องปฏิบัติต่อข้อมูลดังกล่าวด้วยความเป็นมนุษย์และความเคารพ ผู้ใช้ก็คือมนุษย์คนหนึ่ง และศักดิ์ศรีของความเป็นมนุษย์นั้นสำคัญเหนือสิ่งอื่นใด [ 1 ]

การพัฒนาซอฟต์แวร์ในปัจจุบันเกี่ยวข้องกับการตัดสินใจเชิงจริยธรรมที่สำคัญมากขึ้นเรื่อยๆ มีแนวทางปฏิบัติเพื่อช่วยให้นักพัฒนาซอฟต์แวร์รับมือกับประเด็นเหล่านี้ เช่น ACM Code of Ethics and Professional Conduct [ 2 ] แต่ในทางปฏิบัติแทบไม่มีใครพูดถึง นำไปใช้ หรือบังคับให้ทำตาม ทำให้วิศวกรและ product manager บางครั้งมีท่าทีไม่ใส่ใจต่อความเป็นส่วนตัวและผลกระทบด้านลบที่ผลิตภัณฑ์ของตนอาจก่อขึ้น [ 3 , 4 ]

เทคโนโลยีไม่ได้ดีหรือเลวในตัวของมันเอง — สิ่งที่สำคัญคือมันถูกใช้อย่างไรและส่งผลกระทบต่อผู้คนอย่างไร สิ่งนี้เป็นจริงทั้งกับระบบซอฟต์แวร์อย่าง search engine และอาวุธอย่างปืน เราต้องแบกรับความรับผิดชอบด้านจริยธรรมเอง การที่วิศวกรซอฟต์แวร์สนใจแต่เทคโนโลยีโดยไม่มองผลกระทบที่ตามมานั้นไม่เพียงพอ

อย่างไรก็ตาม แตกต่างจากศาสตร์ทางคอมพิวเตอร์ส่วนใหญ่ แนวคิดที่เป็นหัวใจของจริยธรรมนั้นไม่ได้ตายตัวหรือมีความหมายที่แน่นอน มันต้องอาศัยการตีความ ซึ่งอาจแตกต่างกันไปตามมุมมองของแต่ละคน [ 5 ] สิ่งที่ทำให้บางอย่าง "ดี" หรือ "เลว" นั้นไม่ได้ถูกนิยามไว้อย่างชัดเจน และในหมู่คนทำงานสายคอมพิวเตอร์ก็ยังมีการถกเรื่องนี้อย่างจริงจังน้อยเกินไป [ 6 ] การคิดเรื่องจริยธรรมนั้นยาก แต่ก็สำคัญเกินกว่าจะมองข้าม แล้วในทางปฏิบัติมันหมายถึงอะไร? จริยธรรมไม่ใช่การไล่ทำตาม checklist เพื่อยืนยันว่าคุณทำตามข้อกำหนดครบแล้ว แต่เป็นกระบวนการไตร่ตรองที่ทำซ้ำไปเรื่อยๆ โดยมีส่วนร่วม พูดคุยกับผู้คนที่เกี่ยวข้อง และรับผิดชอบต่อผลลัพธ์ [ 7 ]

Predictive Analytics (การวิเคราะห์เชิงทำนาย)

Predictive Analytics เป็นส่วนสำคัญที่ทำให้ผู้คนตื่นเต้นกับ big data และ AI และยังเป็นพื้นที่ที่เต็มไปด้วยประเด็นขัดแย้งทางจริยธรรม การใช้การวิเคราะห์ข้อมูลเพื่อพยากรณ์สภาพอากาศหรือการแพร่ระบาดของโรคเป็นเรื่องหนึ่ง [ 8 ]; แต่อีกเรื่องคือการทำนายว่านักโทษจะกระทำผิดซ้ำหรือไม่ ผู้กู้จะผิดนัดชำระหนี้หรือไม่ หรือลูกค้าประกันจะเรียกสินไหมทดแทนสูงหรือไม่ [ 9 ] เรื่องหลังนี้ส่งผลโดยตรงต่อชีวิตของแต่ละคน

แน่นอนว่าเครือข่ายการชำระเงินต้องการป้องกันธุรกรรมที่เป็นการฉ้อโกง ธนาคารต้องการหลีกเลี่ยงหนี้เสีย สายการบินต้องการป้องกันการจี้เครื่องบิน และบริษัทต่างๆ ต้องการหลีกเลี่ยงการจ้างคนที่ไร้ประสิทธิภาพหรือไม่น่าไว้วางใจ จากมุมมองของพวกเขา ต้นทุนของการพลาดโอกาสทางธุรกิจนั้นต่ำ แต่ต้นทุนของหนี้เสียหรือพนักงานที่มีปัญหานั้นสูงกว่ามาก ดังนั้นจึงเป็นเรื่องปกติที่องค์กรต่างๆ จะต้องการใช้ความระมัดระวัง หากไม่แน่ใจ พวกเขาก็ควรปฏิเสธไว้ก่อน

อย่างไรก็ตาม เมื่อการตัดสินใจด้วยอัลกอริทึมแพร่หลายมากขึ้น คนที่ถูกอัลกอริทึมประเมินว่า "มีความเสี่ยง" (ไม่ว่าจะถูกต้องหรือไม่ก็ตาม) อาจถูกปฏิเสธซ้ำแล้วซ้ำเล่า และถูกกีดกันอย่างเป็นระบบจากการทำงาน การเดินทางทางอากาศ ความคุ้มครองประกัน การเช่าอสังหาริมทรัพย์ บริการทางการเงิน และด้านสำคัญอื่นๆ ของสังคม ซึ่งจำกัดเสรีภาพของบุคคลอย่างมาก จนมีคนเรียกว่า "algorithmic prison (คุกอัลกอริทึม)" [ 10 ] ในประเทศที่เคารพสิทธิมนุษยชน ระบบยุติธรรมทางอาญาถือว่าผู้บริสุทธิ์จนกว่าจะพิสูจน์ได้ว่ามีความผิด ในทางกลับกัน ระบบอัตโนมัติสามารถกีดกันบุคคลออกจากการมีส่วนร่วมในสังคมอย่างเป็นระบบและโดยพลการ โดยไม่มีหลักฐานใดๆ แสดงว่าผู้นั้นมีความผิด และแทบไม่มีช่องทางในการอุทธรณ์

Bias and Discrimination (อคติและการเลือกปฏิบัติ)

การตัดสินใจโดยอัลกอริทึมไม่จำเป็นต้องดีกว่าหรือแย่กว่าการตัดสินใจโดยมนุษย์เสมอไป ทุกคนมีแนวโน้มที่จะมีอคติ แม้ว่าพวกเขาจะพยายามต่อต้านมันอย่างแข็งขันก็ตาม และการปฏิบัติที่เลือกปฏิบัติสามารถกลายเป็นสิ่งที่ฝังรากลึกในวัฒนธรรม มีความหวังว่าการตัดสินใจโดยอาศัยข้อมูล แทนที่จะขึ้นอยู่กับการประเมินแบบอัตวิสัยและสัญชาตญาณของมนุษย์ อาจมีความเป็นธรรมมากกว่า และให้โอกาสที่ดีกว่ากับคนที่มักถูกมองข้ามหรือเสียเปรียบในระบบดั้งเดิม [ 11 ]

เมื่อเราสร้างระบบ Predictive Analytics และ AI เราไม่ได้แค่ทำให้การตัดสินใจของมนุษย์เป็นอัตโนมัติด้วยซอฟต์แวร์ที่มีกฎตายตัวว่าจะตอบรับหรือปฏิเสธเมื่อใด แต่ปล่อยให้ระบบอนุมานกฎเหล่านั้นจากข้อมูลเอง อย่างไรก็ตาม รูปแบบที่ระบบเรียนรู้ได้นั้นไม่โปร่งใส: ต่อให้ข้อมูลบ่งชี้ว่ามี correlation (สหสัมพันธ์) เราก็อาจไม่รู้ว่าทำไม ถ้า input ของอัลกอริทึมมีอคติเชิงระบบอยู่แล้ว ระบบก็มีแนวโน้มสูงที่จะเรียนรู้อคตินั้นและขยายมันในผลลัพธ์ [ 12 ]

ในหลายประเทศ กฎหมายต่อต้านการเลือกปฏิบัติห้ามปฏิบัติต่อผู้คนแตกต่างกันโดยขึ้นอยู่กับลักษณะที่ได้รับการคุ้มครอง เช่น เชื้อชาติ อายุ เพศ รสนิยมทางเพศ ความพิการ หรือความเชื่อ ลักษณะอื่นๆ ในข้อมูลของบุคคลอาจถูกนำมาวิเคราะห์ได้ แต่จะเกิดอะไรขึ้นถ้าลักษณะเหล่านั้นมีความสัมพันธ์กับลักษณะที่ได้รับการคุ้มครอง? ตัวอย่างเช่น ในย่านที่แบ่งแยกตามเชื้อชาติ รหัสไปรษณีย์หรือแม้แต่ที่อยู่ IP ของบุคคลเป็นตัวทำนายเชื้อชาติที่แม่นยำมาก เมื่อเป็นเช่นนี้ การเชื่อว่าอัลกอริทึมจะรับข้อมูลที่มีอคติเข้าไปแล้วให้ผลลัพธ์ที่ยุติธรรมและเป็นกลางออกมาได้จึงดูไร้สาระ [ 13 , 14 ] แต่ดูเหมือนว่าผู้สนับสนุนการตัดสินใจที่ขับเคลื่อนด้วยข้อมูลมักเชื่อเช่นนั้นโดยนัย ซึ่งมีคนเสียดสีไว้ว่า "Machine learning is like money laundering for bias" (machine learning เปรียบเสมือนการฟอกเงินให้อคติ) [ 15 ]

ระบบ Predictive Analytics คาดการณ์จากอดีตเท่านั้น ถ้าอดีตเต็มไปด้วยการเลือกปฏิบัติ ระบบก็จะเปลี่ยนการเลือกปฏิบัตินั้นให้เป็นกฎตายตัวและขยายให้แรงขึ้น [ 16 ] ถ้าเราต้องการให้อนาคตดีกว่าอดีต เราต้องมี moral imagination (จินตนาการทางศีลธรรม) และสิ่งนี้มีแต่มนุษย์เท่านั้นที่ให้ได้ [ 17 ] ข้อมูลและโมเดลควรเป็นเครื่องมือของเรา ไม่ใช่นายของเรา

Responsibility and Accountability (ความรับผิดชอบและการตรวจสอบได้)

การตัดสินใจแบบอัตโนมัติทำให้เกิดคำถามเกี่ยวกับความรับผิดชอบและการตรวจสอบได้ [ 17 ] ถ้ามนุษย์ทำผิด พวกเขาต้องรับผิดชอบได้ และผู้ที่ได้รับผลกระทบจากการตัดสินใจนั้นก็อุทธรณ์ได้ อัลกอริทึมก็ทำผิดพลาดเช่นกัน แต่ใครจะเป็นผู้รับผิดชอบเมื่อมันผิดพลาด [ 18 ]? เมื่อรถยนต์ไร้คนขับก่อให้เกิดอุบัติเหตุ ใครคือผู้รับผิดชอบ? ถ้าอัลกอริทึมให้คะแนนเครดิตอัตโนมัติเลือกปฏิบัติอย่างเป็นระบบต่อคนบางเชื้อชาติหรือบางศาสนา มีช่องทางเยียวยาหรือไม่? ถ้าการตัดสินใจของระบบ ML ถูกนำขึ้นสู่ศาล คุณอธิบายให้ผู้พิพากษาฟังได้หรือไม่ว่าอัลกอริทึมตัดสินใจอย่างไร? ผู้คนไม่ควรหลบเลี่ยงความรับผิดชอบของตนโดยการโทษอัลกอริทึม

Credit rating agency (หน่วยงานจัดอันดับเครดิต) เป็นตัวอย่างคลาสสิกของการเก็บรวบรวมข้อมูลเพื่อตัดสินใจเกี่ยวกับผู้คน คะแนนเครดิตที่ไม่ดีทำให้ชีวิตลำบาก แต่อย่างน้อยคะแนนเครดิตก็มักจะอิงจากข้อเท็จจริงที่เกี่ยวข้องเกี่ยวกับประวัติการกู้ยืมจริงของบุคคล และข้อผิดพลาดใดๆ ในบันทึกก็สามารถแก้ไขได้ (แม้ว่าโดยปกติหน่วยงานเหล่านี้จะไม่ทำให้เรื่องนี้ง่ายนัก) แต่อัลกอริทึมให้คะแนนที่ใช้ machine learning มักใช้ข้อมูลนำเข้าที่หลากหลายกว่ามาก และไม่โปร่งใสกว่ามาก ทำให้ยากจะรู้ว่าการตัดสินใจแต่ละครั้งเกิดขึ้นได้อย่างไร และมีใครถูกปฏิบัติอย่างไม่เป็นธรรมหรือถูกเลือกปฏิบัติหรือไม่ [ 19 ]

คะแนนเครดิตสรุปว่า "ที่ผ่านมาคุณมีพฤติกรรมอย่างไร?" ส่วน Predictive Analytics มักทำงานจากคำถามว่า "ใครบ้างที่คล้ายกับคุณ และคนแบบคุณเคยมีพฤติกรรมอย่างไร?" การเทียบกับพฤติกรรมของคนอื่นหมายถึงการตีตราผู้คน—เช่น ตัดสินจากที่ที่พวกเขาอาศัยอยู่ (ซึ่งเป็นตัวแทนใกล้เคียงของเชื้อชาติและชนชั้นทางเศรษฐกิจและสังคม) แล้วคนที่ถูกจัดเข้ากลุ่มผิดล่ะ? ยิ่งไปกว่านั้น หากการตัดสินใจไม่ถูกต้องเนื่องจากข้อมูลที่ผิดพลาด การเยียวยาแทบจะเป็นไปไม่ได้เลย [ 17 ]

ข้อมูลจำนวนมากมีลักษณะเป็นสถิติ ซึ่งหมายความว่าแม้การกระจายตัวของความน่าจะเป็นโดยรวมจะถูกต้อง แต่กรณีเฉพาะบุคคลก็อาจผิดพลาดได้ ตัวอย่างเช่น หากอายุขัยเฉลี่ยในประเทศของคุณคือ 80 ปี นั่นไม่ได้หมายความว่าคุณจะต้องเสียชีวิตในวันเกิดครบ 80 ปี จากค่าเฉลี่ยและการกระจายตัวของความน่าจะเป็น คุณไม่สามารถบอกได้มากนักว่าบุคคลใดบุคคลหนึ่งจะมีชีวิตอยู่ถึงอายุเท่าใด ในทำนองเดียวกัน ผลลัพธ์ของระบบทำนายเป็นความน่าจะเป็น และอาจผิดพลาดในแต่ละกรณีได้

การเชื่อแบบหลับหูหลับตาว่าข้อมูลเหนือกว่าทุกอย่างในการตัดสินใจนั้นไม่ใช่แค่ภาพลวงตา แต่ยังอันตรายอย่างยิ่ง เมื่อการตัดสินใจที่ขับเคลื่อนด้วยข้อมูลแพร่หลายมากขึ้น เราจะต้องหาวิธีหลีกเลี่ยงการตอกย้ำอคติที่มีอยู่เดิม ทำให้อัลกอริทึมตรวจสอบได้และโปร่งใส และแก้ไขเมื่อมันผิดพลาดอย่างหลีกเลี่ยงไม่ได้

เราจะต้องหาวิธีตระหนักถึงศักยภาพเชิงบวกของข้อมูลและป้องกันไม่ให้ถูกใช้ในการทำร้ายผู้คนด้วย ตัวอย่างเช่น การวิเคราะห์สามารถเปิดเผยลักษณะทางการเงินและสังคมในชีวิตของผู้คน ในแง่หนึ่ง พลังนี้สามารถใช้เพื่อมุ่งเน้นการช่วยเหลือและสนับสนุนผู้ที่ต้องการมากที่สุด ในอีกแง่หนึ่ง บางครั้งมันก็ถูกใช้โดยธุรกิจที่เอาเปรียบเพื่อระบุตัวบุคคลที่เปราะบางและขายผลิตภัณฑ์ที่มีความเสี่ยงให้พวกเขา เช่น เงินกู้ดอกเบี้ยสูง หรือปริญญาวิทยาลัยที่ไร้ค่า [ 17 , 20 ]

Feedback Loops (ลูปป้อนกลับ)

แม้แต่กับแอปพลิเคชันเชิงทำนายที่ส่งผลต่อผู้คนไม่กว้างไกลหรือเห็นผลทันทีเท่า เช่น ระบบแนะนำเนื้อหา ก็ยังมีประเด็นยากๆ ที่เราต้องเผชิญ เมื่อบริการเก่งขึ้นในการทำนายว่าผู้ใช้อยากเห็นเนื้อหาอะไร บริการอาจลงเอยด้วยการแสดงแต่ความคิดเห็นที่ผู้ใช้เห็นด้วยอยู่แล้ว กลายเป็น echo chamber (ห้องสะท้อนเสียง) ที่อคติเหมารวม ข้อมูลเท็จ และการแบ่งขั้วเติบโตได้ง่าย เราเห็นผลของ echo chamber บน social media ต่อการหาเสียงเลือกตั้งอยู่แล้ว

เมื่อ Predictive Analytics ส่งผลกระทบต่อชีวิตของผู้คน ปัญหาที่ร้ายกาจเป็นพิเศษเกิดจาก feedback loop ที่เสริมให้ตัวมันเองแรงขึ้น ตัวอย่างเช่น ลองนึกถึงนายจ้างที่ใช้คะแนนเครดิตประเมินผู้สมัครงาน คุณอาจเป็นพนักงานที่ดีที่มีคะแนนเครดิตดี แต่อยู่ดีๆ ก็พบว่าตัวเองตกอยู่ในปัญหาทางการเงินเนื่องจากโชคร้ายที่อยู่นอกเหนือการควบคุมของคุณ เมื่อคุณเริ่มจ่ายชำระหนี้ไม่ตรงเวลา คะแนนเครดิตของคุณก็แย่ลง และคุณก็จะมีโอกาสหางานทำได้ยากขึ้น การตกงานผลักดันคุณไปสู่ความยากจน ซึ่งยิ่งทำให้คะแนนของคุณแย่ลงไปอีก ทำให้หางานยากยิ่งขึ้น [ 17 ] มันเป็นวงจรขาลงที่เกิดจากสมมติฐานที่เป็นพิษ ซึ่งซ่อนอยู่ภายใต้ลายพรางของความเข้มงวดทางคณิตศาสตร์และข้อมูล

อีกตัวอย่างหนึ่งของ feedback loop นักเศรษฐศาสตร์พบว่าเมื่อปั๊มน้ำมันในเยอรมนีเริ่มใช้การตั้งราคาด้วยอัลกอริทึม การแข่งขันลดลงและราคาที่ผู้บริโภคจ่ายสูงขึ้น เพราะอัลกอริทึมเรียนรู้ที่จะสมคบกัน [ 21 ]

เราไม่สามารถคาดเดาได้เสมอไปว่า feedback loop แบบนี้จะเกิดขึ้นเมื่อใด อย่างไรก็ตาม ผลกระทบหลายอย่างคาดการณ์ได้ถ้าเราคิดถึงทั้งระบบ (ไม่ใช่แค่ส่วนที่เป็นคอมพิวเตอร์ แต่รวมถึงผู้คนที่มีปฏิสัมพันธ์กับมันด้วย) — วิธีการที่เรียกว่า Systems Thinking (การคิดเชิงระบบ) [ 22 ] เราสามารถพยายามทำความเข้าใจว่าระบบวิเคราะห์ข้อมูลตอบสนองต่อพฤติกรรม โครงสร้าง หรือลักษณะต่างๆ อย่างไร ระบบตอกย้ำและขยายความแตกต่างที่มีอยู่ระหว่างผู้คน (เช่น ทำให้คนรวยรวยขึ้นหรือคนจนจนลง) หรือพยายามต่อสู้กับความอยุติธรรม? ต่อให้ตั้งใจดีที่สุด เราก็ต้องระวังผลกระทบที่ไม่ได้ตั้งใจ

Privacy and Tracking (ความเป็นส่วนตัวและการติดตาม)

นอกเหนือจากปัญหาของ Predictive Analytics — นั่นคือการใช้ข้อมูลเพื่อตัดสินใจอัตโนมัติเกี่ยวกับผู้คน — ยังมีปัญหาทางจริยธรรมเกี่ยวกับการเก็บรวบรวมข้อมูลด้วยตัวมันเอง ความสัมพันธ์ระหว่างองค์กรที่เก็บรวบรวมข้อมูลกับผู้คนที่ถูกเก็บข้อมูลนั้นเป็นอย่างไร?

เมื่อระบบจัดเก็บเฉพาะข้อมูลที่ผู้ใช้ป้อนอย่างชัดเจน เพราะพวกเขาต้องการให้ระบบจัดเก็บและประมวลผลในลักษณะใดลักษณะหนึ่ง ระบบกำลังให้บริการแก่ผู้ใช้ ผู้ใช้คือลูกค้า แต่เมื่อกิจกรรมของผู้ใช้ถูกติดตามและบันทึกเป็นผลพลอยได้จากสิ่งอื่นที่พวกเขากำลังทำ ความสัมพันธ์นั้นก็ไม่ชัดเจนอีกต่อไป บริการไม่ได้แค่ทำตามที่ผู้ใช้บอกอีกต่อไป มันเริ่มมีความสนใจของตัวเอง ซึ่งอาจขัดแย้งกับความสนใจของผู้ใช้

การติดตามข้อมูลพฤติกรรมมีความสำคัญมากขึ้นสำหรับ user-facing feature (ฟีเจอร์ที่ผู้ใช้ใช้งานโดยตรง) ของบริการออนไลน์มากมาย การติดตามว่าผลการค้นหาใดถูกคลิกช่วยปรับปรุงการจัดอันดับผลการค้นหา การให้คำแนะนำ ("คนที่ชอบ X ก็ชอบ Y เช่นกัน") ช่วยให้ผู้ใช้ค้นพบสิ่งที่น่าสนใจและมีประโยชน์ การทดสอบ A/B และการวิเคราะห์ flow ของผู้ใช้ช่วยบอกได้ว่าควรปรับปรุง UI อย่างไร ฟีเจอร์เหล่านี้ต้องการการติดตามพฤติกรรมผู้ใช้ในระดับหนึ่ง และผู้ใช้ก็ได้รับประโยชน์จากมัน

อย่างไรก็ตาม ขึ้นอยู่กับโมเดลธุรกิจของบริษัท การติดตามมักจะไม่หยุดแค่นั้น หากบริการได้รับเงินทุนจากโฆษณา ผู้ลงโฆษณาคือลูกค้าที่แท้จริง และความสนใจของผู้ใช้ก็มีความสำคัญเป็นรอง ข้อมูลการติดตามมีรายละเอียดมากขึ้น การวิเคราะห์ขยายวงกว้างขึ้น และข้อมูลถูกเก็บไว้เป็นเวลานานเพื่อสร้างโปรไฟล์โดยละเอียดของแต่ละบุคคลเพื่อวัตถุประสงค์ทางการตลาด

เมื่อถึงจุดนี้ ความสัมพันธ์ระหว่างบริษัทกับผู้ใช้ที่ข้อมูลถูกเก็บรวบรวมเริ่มดูแตกต่างไปอย่างมาก ผู้ใช้ได้รับบริการฟรีและถูกโน้มน้าวให้มีส่วนร่วมกับมันมากที่สุดเท่าที่จะทำได้ การติดตามผู้ใช้นั้นไม่ได้ให้บริการแก่ตัวบุคคลนั้นเป็นหลัก แต่ตอบสนองความต้องการของผู้ลงโฆษณาที่เป็นผู้ให้ทุนสนับสนุนบริการแทน ความสัมพันธ์นี้สามารถอธิบายได้อย่างเหมาะสมด้วยคำที่มีความหมายแฝงในเชิงลบมากขึ้น: Surveillance (การเฝ้าสังเกต)

Surveillance (การเฝ้าสังเกต)

ในฐานะการทดลองทางความคิด ลองแทนที่คำว่า Data ด้วย Surveillance และลองดูว่าวลีที่เราคุ้นเคยยังฟังดูดีอยู่หรือไม่ [ 23 ] เช่นนี้: "ในองค์กรที่ขับเคลื่อนด้วยการเฝ้าสังเกตของเรา เรารวบรวมสตรีมข้อมูลแบบเรียลไทม์จากการเฝ้าสังเกตและจัดเก็บไว้ในคลังข้อมูลการเฝ้าสังเกตของเรา นักวิทยาศาสตร์ด้านการเฝ้าสังเกตของเราใช้การวิเคราะห์ขั้นสูงและการประมวลผลการเฝ้าสังเกตเพื่อค้นหาข้อมูลเชิงลึกใหม่ๆ"

การทดลองทางความคิดนี้ฟังดูรุนแรงผิดปกติสำหรับหนังสือชื่อ Designing Surveillance-Intensive Applications แต่จำเป็นต้องใช้คำพูดที่หนักแน่นเพื่อเน้นย้ำประเด็นนี้ ในความพยายามของเราที่จะให้ซอฟต์แวร์ "กินโลก" [ 24 ] เราได้สร้างโครงสร้างพื้นฐานการเฝ้าสังเกตมวลชนที่ใหญ่ที่สุดเท่าที่เคยมีมา เรากำลังเข้าใกล้อย่างรวดเร็วสู่โลกที่ทุกพื้นที่ที่มีคนอาศัยอยู่จะมีไมโครโฟนที่เชื่อมต่ออินเทอร์เน็ตอย่างน้อยหนึ่งตัว ในรูปแบบของสมาร์ทโฟน สมาร์ททีวี ผู้ช่วยที่สั่งงานด้วยเสียง baby monitor และแม้แต่ของเล่นเด็กที่ใช้การรู้จำเสียงบน cloud อุปกรณ์เหล่านี้หลายตัวมีประวัติด้านความปลอดภัยที่แย่มาก [ 25 ]

สิ่งที่ต่างจากในอดีตคือการเปลี่ยนเป็นดิจิทัลทำให้การรวบรวมข้อมูลจำนวนมากเกี่ยวกับผู้คนเป็นเรื่องง่าย การเฝ้าสังเกตตำแหน่งที่ตั้งและการเคลื่อนไหว ความสัมพันธ์ทางสังคมและการสื่อสาร การซื้อและการชำระเงิน และข้อมูลสุขภาพของเราจึงแทบหลีกเลี่ยงไม่ได้ องค์กรเฝ้าสังเกตอาจรู้จักบุคคลมากกว่าที่ตัวบุคคลนั้นรู้จักตัวเอง—ตัวอย่างเช่น ระบุความเจ็บป่วยหรือปัญหาเศรษฐกิจก่อนที่บุคคลนั้นจะรู้ตัว

แม้แต่ระบอบเผด็จการและกดขี่ที่สุดในอดีตก็ทำได้แค่ฝันว่าจะวางไมโครโฟนในทุกห้องและบังคับให้ทุกคนพกอุปกรณ์ที่สามารถติดตามตำแหน่งที่ตั้งและการเคลื่อนไหวของพวกเขาตลอดเวลา แต่ประโยชน์ที่เราได้รับจากเทคโนโลยีดิจิทัลนั้นยิ่งใหญ่มากจนตอนนี้เรายอมรับสถานะการเฝ้าสังเกตโดยสมบูรณ์นี้ด้วยความเต็มใจ ข้อแตกต่างก็แค่ข้อมูลถูกรวบรวมโดยบริษัทเพื่อให้บริการแก่เรา แทนที่จะเป็นหน่วยงานรัฐบาลที่แสวงหาการควบคุม [ 26 ]

การเก็บรวบรวมข้อมูลทั้งหมดไม่จำเป็นต้องเข้าข่ายเป็นการเฝ้าสังเกตเสมอไป แต่การมองผ่านเลนส์นี้ช่วยให้เราเข้าใจความสัมพันธ์ของเรากับผู้เก็บรวบรวมข้อมูล ทำไมเราถึงดูเหมือนยินดีที่จะยอมรับการเฝ้าสังเกตโดยบริษัท? บางทีคุณอาจรู้สึกว่าคุณไม่มีอะไรต้องปิดบัง — กล่าวคือ คุณสอดคล้องกับโครงสร้างอำนาจที่มีอยู่โดยสมบูรณ์ คุณไม่ได้เป็นชนกลุ่มน้อยที่ถูกละเลย และคุณไม่จำเป็นต้องกลัวการถูกข่มเหง [ 27 ] แต่ไม่ใช่ทุกคนจะโชคดีขนาดนั้น หรือบางทีอาจเป็นเพราะจุดประสงค์ดูไม่ร้ายแรง — ไม่ได้เป็นการบังคับขู่เข็ญหรือการทำให้คล้อยตามอย่างโจ่งแจ้ง เป็นแค่คำแนะนำที่ดีขึ้นและการตลาดที่ตรงกับตัวเรามากขึ้น อย่างไรก็ตาม เมื่อนึกถึงเรื่อง Predictive Analytics ที่คุยกันในหัวข้อก่อนหน้า เส้นแบ่งนี้ก็ไม่ชัดเจนนัก

เรากำลังเห็นข้อมูลพฤติกรรมการขับรถ ซึ่งรถยนต์บันทึกไว้โดยผู้ขับไม่ได้ยินยอม ส่งผลต่อเบี้ยประกันของพวกเขา [ 28 ] และความคุ้มครองประกันสุขภาพที่ขึ้นอยู่กับการที่ผู้คนสวมใส่อุปกรณ์ติดตามการออกกำลังกาย เมื่อการเฝ้าสังเกตถูกใช้เพื่อตัดสินใจที่มีอำนาจเหนือแง่มุมสำคัญของชีวิต เช่น ความคุ้มครองประกันหรือการจ้างงาน มันก็ไม่ใช่เรื่องไร้พิษภัยอีกต่อไป การวิเคราะห์ข้อมูลยังสามารถเปิดเผยสิ่งที่ล่วงล้ำอย่างน่าประหลาดใจได้—ตัวอย่างเช่น เซ็นเซอร์การเคลื่อนไหวใน smartwatch หรือ fitness tracker สามารถใช้เพื่อระบุสิ่งที่คุณกำลังพิมพ์ (เช่น รหัสผ่าน) ได้ด้วยความแม่นยำที่ค่อนข้างดี [ 29 ] ความแม่นยำของเซ็นเซอร์และอัลกอริทึมสำหรับการวิเคราะห์จะยิ่งดีขึ้นเรื่อยๆ

Consent and Freedom of Choice (ความยินยอมและเสรีภาพในการเลือก)

เราอาจยืนยันว่าผู้ใช้เลือกใช้บริการที่ติดตามกิจกรรมของตนโดยสมัครใจ ยอมรับข้อกำหนดในการให้บริการและนโยบายความเป็นส่วนตัว และยินยอมให้เก็บรวบรวมข้อมูล เราอาจถึงกับอ้างว่าผู้ใช้ได้รับบริการที่มีคุณค่าเป็นการตอบแทนสำหรับข้อมูลที่พวกเขาให้ และการติดตามนั้นจำเป็นเพื่อให้บริการ อย่างไรก็ตาม ไม่ต้องสงสัยเลยว่า social network, search engine และบริการออนไลน์ฟรีอื่นๆ มีคุณค่าต่อผู้ใช้ — แต่ข้อโต้แย้งนี้มีปัญหา

ประการแรก เราควรถามว่าทำไมการติดตามจึงจำเป็น การติดตามบางรูปแบบช่วยปรับปรุงฟีเจอร์ที่ผู้ใช้ใช้งานโดยตรง—ตัวอย่างเช่น การติดตามอัตราการคลิกผ่านบนผลการค้นหาสามารถช่วยปรับปรุงการจัดอันดับและความเกี่ยวข้องของผลลัพธ์ของ search engine และการติดตามว่าลูกค้ามักจะซื้อสินค้าชนิดใดร่วมกันสามารถช่วยให้ร้านค้าออนไลน์แนะนำสินค้าที่เกี่ยวข้องได้ อย่างไรก็ตาม เมื่อติดตามปฏิสัมพันธ์ของผู้ใช้เพื่อแนะนำเนื้อหา หรือเพื่อสร้างโปรไฟล์ผู้ใช้เพื่อวัตถุประสงค์ในการโฆษณา ก็ไม่ชัดเจนนักว่านี่เป็นเพื่อประโยชน์ของผู้ใช้จริงๆ หรือไม่ หรือว่าที่จำเป็นก็เพียงเพราะโฆษณาเป็นคนจ่ายค่าบริการ?

ประการที่สอง ผู้ใช้ส่วนใหญ่มีความรู้เพียงเล็กน้อยเกี่ยวกับข้อมูลที่พวกเขาป้อนเข้าสู่ database ของเรา หรือว่ามันถูกเก็บรักษาและประมวลผลอย่างไร และนโยบายความเป็นส่วนตัวส่วนใหญ่ก็ทำหน้าที่บดบังมากกว่าจะให้ความกระจ่าง หากไม่เข้าใจว่ามีอะไรเกิดขึ้นกับข้อมูลของตน ผู้ใช้ก็ไม่สามารถให้ความยินยอมที่มีความหมายได้ บ่อยครั้งที่ข้อมูลจากผู้ใช้คนหนึ่งยังบอกอะไรบางอย่างเกี่ยวกับบุคคลอื่นที่ไม่ใช่ผู้ใช้ของบริการและไม่ได้ตกลงกับข้อกำหนดใดๆ derived dataset (ชุดข้อมูลที่ได้มา) ที่เราพูดถึงในสองสามบทที่ผ่านมา—ซึ่งข้อมูลจากฐานผู้ใช้ทั้งหมดอาจถูกรวมเข้ากับการติดตามพฤติกรรมและแหล่งข้อมูลภายนอก—เป็นข้อมูลประเภทที่ผู้ใช้ย่อมไม่มีทางเข้าใจได้อย่างแท้จริง

ยิ่งไปกว่านั้น ข้อมูลถูกสกัดจากผู้ใช้ผ่านกระบวนการทางเดียว ไม่ใช่ความสัมพันธ์ที่มีการตอบแทนซึ่งกันและกันอย่างแท้จริงหรือการแลกเปลี่ยนมูลค่าที่ยุติธรรม ไม่มีการพูดคุย ไม่มีทางเลือกให้ผู้ใช้ต่อรองว่าต้องให้ข้อมูลมากน้อยเพียงใดและจะได้รับบริการอะไรตอบแทน ความสัมพันธ์ระหว่างบริการกับผู้ใช้เป็นแบบอสมมาตรและข้างเดียว เงื่อนไขถูกกำหนดโดยบริการ ไม่ใช่โดยผู้ใช้ [ 30 , 31 ]

ในสหภาพยุโรป General Data Protection Regulation (กฎหมายคุ้มครองข้อมูลทั่วไป หรือ GDPR) กำหนดให้ความยินยอมต้อง "ให้อย่างอิสระ เฉพาะเจาะจง มีข้อมูล และไม่คลุมเครือ" และผู้ใช้ต้องสามารถ "ปฏิเสธหรือถอนความยินยอมโดยไม่ได้รับผลเสีย" — มิฉะนั้นจะไม่ถือว่า "ให้อย่างอิสระ" คำขอความยินยอมใดๆ ต้องเขียน "ในรูปแบบที่เข้าใจได้และเข้าถึงได้ง่าย โดยใช้ภาษาที่ชัดเจนและเรียบง่าย" และ "การนิ่งเงียบ การติ๊กกล่องไว้ล่วงหน้า หรือการไม่เคลื่อนไหว [ไม่ถือเป็น] ความยินยอม" [ 32 ]

ความยินยอมไม่ใช่ฐานทางกฎหมายเพียงอย่างเดียวที่ใช้ประมวลผลข้อมูลส่วนบุคคลได้ภายใต้ GDPR ยังมีฐานอื่นๆ อีกหลายข้อ รวมถึงการปฏิบัติตามกฎหมายอื่นหรือการปกป้องชีวิตของใครบางคน นอกจากนี้ ฐาน legitimate interest (ผลประโยชน์ที่ชอบด้วยกฎหมาย) ยังอนุญาตให้ใช้ข้อมูลในบางกรณี (เช่น เพื่อการป้องกันการฉ้อโกง) [ 33 ] (ซึ่งผู้ฉ้อโกงคงไม่ยินยอม) อย่างไรก็ตาม ความยินยอมเป็นฐานที่ใช้บ่อยที่สุดสำหรับการประมวลผลข้อมูลส่วนบุคคลในบริการอินเทอร์เน็ต

คุณอาจโต้แย้งว่าผู้ใช้ที่ไม่ยินยอมให้ถูกเฝ้าสังเกตก็สามารถเลือกที่จะไม่ใช้บริการได้ แต่ทางเลือกนี้ก็ไม่เป็นอิสระเช่นกัน หากบริการเป็นที่นิยมมากจน "คนส่วนใหญ่ถือว่าจำเป็นสำหรับการมีส่วนร่วมทางสังคมขั้นพื้นฐาน" [ 30 ] ก็ไม่สมเหตุสมผลที่จะคาดหวังให้ผู้คนเลือกที่จะไม่ใช้มัน — การใช้งานมันกลายเป็นข้อบังคับโดยพฤตินัย ตัวอย่างเช่น ในสังคมตะวันตกส่วนใหญ่ การพกสมาร์ทโฟน การใช้ social network เพื่อเข้าสังคม และการใช้ Google เพื่อค้นหาข้อมูลกลายเป็นบรรทัดฐานไปแล้ว โดยเฉพาะอย่างยิ่งเมื่อบริการมี network effect ก็จะมีต้นทุนทางสังคมสำหรับคนที่เลือก ไม่ ใช้มัน

การปฏิเสธที่จะใช้บริการเพราะนโยบายการติดตามผู้ใช้นั้นพูดง่ายกว่าทำ แพลตฟอร์มเหล่านี้ถูกออกแบบมาเพื่อดึงดูดผู้ใช้โดยเฉพาะ หลายแห่งใช้ game mechanic และกลวิธีที่พบได้ทั่วไปในการพนันเพื่อให้ผู้ใช้กลับมาใช้ซ้ำ [ 34 ] แม้ว่าผู้ใช้จะผ่านพ้นสิ่งนี้ไปได้ การปฏิเสธที่จะมีส่วนร่วมก็เป็นทางเลือกสำหรับคนจำนวนน้อยที่ได้รับสิทธิพิเศษเพียงพอที่จะมีเวลาและความรู้ในการทำความเข้าใจนโยบายความเป็นส่วนตัวของมัน และที่สามารถแบกรับความเสี่ยงที่จะพลาดโอกาสในการมีส่วนร่วมทางสังคมหรือโอกาสทางอาชีพที่อาจเกิดขึ้นหากพวกเขาได้เข้าร่วมใช้บริการ สำหรับคนในตำแหน่งที่เสียเปรียบน้อยกว่า ไม่มีเสรีภาพในการเลือกที่มีความหมาย การเฝ้าสังเกตกลายเป็นสิ่งที่หลีกเลี่ยงไม่ได้

Privacy and Use of Data (ความเป็นส่วนตัวและการใช้ข้อมูล)

บางครั้งผู้คนอ้างว่า "ความเป็นส่วนตัวตายแล้ว" โดยอ้างว่าผู้ใช้บางคนเต็มใจที่จะโพสต์ทุกอย่างเกี่ยวกับชีวิตของตนลงบน social media ทั้งเรื่องธรรมดาและเรื่องส่วนตัวอย่างลึกซึ้ง อย่างไรก็ตาม ข้ออ้างนี้ไม่ถูกต้องและตั้งอยู่บนความเข้าใจผิดเกี่ยวกับคำว่า Privacy

การมีความเป็นส่วนตัวไม่ได้หมายถึงการเก็บทุกอย่างเป็นความลับ มันหมายถึงการมีอิสระในการเลือกว่าจะเปิดเผยอะไรให้ใคร สิ่งใดที่จะทำให้เป็นสาธารณะ และสิ่งใดที่จะเก็บเป็นความลับ สิทธิในความเป็นส่วนตัวเป็นสิทธิในการตัดสินใจ: มันทำให้แต่ละคนสามารถตัดสินใจได้ว่าต้องการอยู่จุดไหนบนสเปกตรัมระหว่างความลับและความโปร่งใสในแต่ละสถานการณ์ [ 30 ] มันเป็นแง่มุมสำคัญของเสรีภาพและอำนาจในการกำหนดตนเองของบุคคล

ตัวอย่างเช่น ผู้ที่ป่วยเป็นโรคที่หายากอาจยินดีอย่างยิ่งที่จะให้ข้อมูลทางการแพทย์ส่วนตัวของตนแก่นักวิจัย หากมันอาจช่วยพัฒนาการรักษาสำหรับอาการป่วยของพวกเขา อย่างไรก็ตาม บุคคลนี้ต้องมีทางเลือกว่าใครสามารถเข้าถึงข้อมูลนี้และเพื่อวัตถุประสงค์ใด หากข้อมูลเกี่ยวกับอาการป่วยของพวกเขาอาจเป็นอุปสรรคต่อการเข้าถึงประกันสุขภาพหรือการจ้างงาน บุคคลนี้ก็คงจะระมัดระวังมากขึ้นในการแบ่งปันข้อมูลของตน

เมื่อข้อมูลถูกสกัดจากผู้คนผ่านโครงสร้างพื้นฐานการเฝ้าสังเกต สิทธิ์ความเป็นส่วนตัวไม่จำเป็นต้องถูกทำลายลง แต่ถูกโอนย้ายไปยังผู้เก็บรวบรวมข้อมูล บริษัทที่ได้มาซึ่งข้อมูลโดยพื้นฐานแล้วพูดว่า "เชื่อใจเราว่าจะทำสิ่งที่ถูกต้องกับข้อมูลของคุณ" ซึ่งหมายความว่าสิทธิในการตัดสินใจว่าจะเปิดเผยอะไรและเก็บอะไรเป็นความลับถูกโอนจากบุคคลไปยังบริษัท

ในทางกลับกัน บริษัทต่างๆ เลือกที่จะเก็บผลลัพธ์ส่วนใหญ่ของการเฝ้าสังเกตนี้เป็นความลับ เพราะการเปิดเผยมันจะถูกมองว่าน่าขนลุกและเป็นอันตรายต่อโมเดลธุรกิจของพวกเขา (ซึ่งอาศัยการรู้จักผู้คนมากกว่าบริษัทอื่น) ข้อมูลใกล้ชิดเกี่ยวกับผู้ใช้ถูกเปิดเผยเพียงทางอ้อม—ตัวอย่างเช่น ในรูปแบบของเครื่องมือสำหรับกำหนดเป้าหมายโฆษณาไปยังกลุ่มคนเฉพาะ (เช่น ผู้ที่ป่วยเป็นโรคใดโรคหนึ่ง)

แม้ว่าผู้ใช้เฉพาะรายจะไม่สามารถถูกระบุตัวตนใหม่ได้จากกลุ่มคนที่ถูกกำหนดเป้าหมายโดยโฆษณาเฉพาะ พวกเขาก็สูญเสียอำนาจในการควบคุมการเปิดเผยข้อมูลใกล้ชิดบางอย่าง ไม่ใช่ผู้ใช้ที่เป็นผู้ตัดสินใจว่าจะเปิดเผยอะไรให้ใครโดยพิจารณาจากความชอบส่วนตัวของพวกเขา — แต่เป็นบริษัทที่ใช้สิทธิ์ความเป็นส่วนตัวโดยมีเป้าหมายเพื่อเพิ่มผลกำไรสูงสุด

หลายบริษัทต้องการหลีกเลี่ยงการ ถูกมองว่า น่าขนลุก โดยหลีกเลี่ยงคำถามว่าการเก็บรวบรวมข้อมูลของพวกเขาล่วงล้ำแค่ไหน และมุ่งเน้นไปที่การจัดการการรับรู้ของผู้ใช้แทน และแม้แต่การรับรู้เหล่านี้ก็มักถูกจัดการได้ไม่ดี—ตัวอย่างเช่น บางสิ่งอาจถูกต้องตามข้อเท็จจริง แต่ถ้ามันกระตุ้นความทรงจำที่เจ็บปวด ผู้ใช้อาจไม่ต้องการให้ถูกเตือนถึงมัน [ 35 ] ด้วยข้อมูลทุกประเภท เราควรคาดหวังถึงความเป็นไปได้ที่มันจะผิด ไม่พึงประสงค์ หรือไม่เหมาะสมในทางใดทางหนึ่ง และเราจำเป็นต้องสร้างกลไกสำหรับจัดการกับความล้มเหลวเหล่านั้น สิ่งที่ "ไม่พึงประสงค์" หรือ "ไม่เหมาะสม" นั้นแน่นอนว่าขึ้นอยู่กับการตัดสินใจของมนุษย์ อัลกอริทึมไม่รู้จักแนวคิดเหล่านี้เว้นแต่เราจะเขียนโปรแกรมให้มันเคารพความต้องการของมนุษย์อย่างชัดเจน ในฐานะวิศวกรของระบบเหล่านี้ เราต้องถ่อมตน ยอมรับและวางแผนสำหรับข้อบกพร่องดังกล่าว

การตั้งค่าความเป็นส่วนตัวที่อนุญาตให้ผู้ใช้บริการออนไลน์ควบคุมว่าแง่มุมใดของข้อมูลที่ผู้ใช้คนอื่นสามารถเห็นได้ เป็นจุดเริ่มต้นในการคืนการควบคุมบางส่วนกลับไปยังผู้ใช้ อย่างไรก็ตาม ไม่ว่าการตั้งค่าจะเป็นอย่างไร ตัวบริการเองยังคงสามารถเข้าถึงข้อมูลได้อย่างไม่จำกัดและมีอิสระที่จะใช้มันในทางใดก็ตามที่ได้รับอนุญาตตามนโยบายความเป็นส่วนตัว แม้บริการจะสัญญาว่าจะไม่ขายข้อมูลให้บุคคลที่สาม โดยปกติแล้วมันก็จะให้สิทธิ์ตัวเองอย่างไม่จำกัดในการประมวลผลและวิเคราะห์ข้อมูลภายใน ซึ่งมักจะไปไกลเกินกว่าที่ผู้ใช้จะมองเห็นได้อย่างชัดเจน

การถ่ายโอนสิทธิ์ความเป็นส่วนตัวขนาดใหญ่จากบุคคลสู่บริษัทในลักษณะนี้ไม่เคยมีมาก่อนในประวัติศาสตร์ [ 30 ] การเฝ้าสังเกตมีมาโดยตลอด แต่มันเคยมีราคาแพงและต้องทำด้วยมือ ทำให้ scale หรือเป็นอัตโนมัติไม่ได้ ความสัมพันธ์ที่มีพื้นฐานมาจากความไว้วางใจมีมาโดยตลอด—เช่น ระหว่างคนไข้กับแพทย์ หรือระหว่างจำเลยกับทนาย—แต่ในกรณีเหล่านี้ การใช้ข้อมูลถูกควบคุมอย่างเข้มงวดโดยข้อบังคับทางจริยธรรม กฎหมาย และกฎระเบียบ บริการอินเทอร์เน็ตทำให้การรวบรวมข้อมูลที่ละเอียดอ่อนจำนวนมหาศาลโดยปราศจากความยินยอมที่มีความหมาย และการใช้มันในระดับใหญ่โดยที่ผู้ใช้ไม่เข้าใจว่าเกิดอะไรขึ้นกับข้อมูลส่วนตัวของพวกเขา กลายเป็นเรื่องง่ายขึ้นมาก

Data as Assets and Power (ข้อมูลในฐานะสินทรัพย์และอำนาจ)

เนื่องจากข้อมูลพฤติกรรมเป็นผลพลอยได้จากปฏิสัมพันธ์ของผู้ใช้กับบริการ บางครั้งมันถูกเรียกว่า "data exhaust (ไอเสียข้อมูล)" — ซึ่งสื่อเป็นนัยว่าข้อมูลนั้นเป็นวัสดุเหลือใช้ที่ไร้ค่า เมื่อมองในมุมนี้ Predictive Analytics และ behavioral analytics ก็มองได้ว่าเป็นรูปแบบหนึ่งของการรีไซเคิลที่สกัดมูลค่าจากข้อมูลที่มิฉะนั้นจะถูกทิ้งไป

ที่ถูกต้องกว่านั้นคือการมองกลับกัน จากมุมมองทางเศรษฐกิจ หากการโฆษณาแบบกำหนดเป้าหมายคือสิ่งที่จ่ายค่าบริการ กิจกรรมของผู้ใช้ที่สร้างข้อมูลพฤติกรรมก็ถือได้ว่าเป็นรูปแบบหนึ่งของแรงงาน [ 36 ] อาจโต้แย้งต่อไปอีกว่าแอปพลิเคชันที่ผู้ใช้โต้ตอบด้วยนั้นเป็นเพียงเครื่องมือในการล่อลวงให้ผู้ใช้ป้อนข้อมูลส่วนตัวมากขึ้นเรื่อยๆ เข้าสู่โครงสร้างพื้นฐานการเฝ้าสังเกต [ 30 ] ความคิดสร้างสรรค์และความสัมพันธ์ทางสังคมอันน่ารื่นรมย์ของมนุษย์ที่มักแสดงออกในบริการออนไลน์ ถูกเอารัดเอาเปรียบอย่างเหยียดหยามโดยเครื่องจักรสกัดข้อมูล

ข้อมูลส่วนบุคคลเป็นสินทรัพย์ที่มีค่า เห็นได้จากการมี data broker (นายหน้าข้อมูล) ที่ดำเนินการอย่างลับๆ ซื้อ รวบรวม วิเคราะห์ และขายต่อข้อมูลส่วนบุคคลของผู้คน ส่วนใหญ่เพื่อวัตถุประสงค์ทางการตลาด [ 20 ] startup ถูกตีมูลค่าจากจำนวนผู้ใช้ หรือ "eyeballs" — นั่นคือ ด้วยความสามารถในการเฝ้าสังเกตของพวกเขา

เพราะข้อมูลมีค่า หลายคนจึงต้องการมัน แน่นอนว่าบริษัทต้องการมัน — นั่นคือเหตุผลที่พวกเขาเก็บรวบรวมมันตั้งแต่แรก แต่รัฐบาลก็ต้องการมันเช่นกัน และอาจพยายามได้ข้อมูลมาด้วยวิธีลับ การบีบบังคับ การใช้อำนาจทางกฎหมาย หรือแค่ขโมยเอา [ 37 ] เมื่อบริษัทล้มละลาย ข้อมูลส่วนบุคคลที่มันเก็บรวบรวมไว้เป็นหนึ่งในสินทรัพย์ที่ถูกขาย และเนื่องจากข้อมูลยากที่จะรักษาความปลอดภัย การละเมิดจึงเกิดขึ้นบ่อยครั้งอย่างน่าตกใจ

ข้อสังเกตเหล่านี้ทำให้นักวิจารณ์บางคนบอกว่าข้อมูลไม่ได้เป็นแค่สินทรัพย์ แต่เป็น "toxic asset (สินทรัพย์ที่เป็นพิษ)" [ 37 ] หรืออย่างน้อยก็ "hazardous material (วัสดุอันตราย)" [ 38 ] บางทีข้อมูลอาจไม่ใช่ทองคำใหม่ หรือน้ำมันใหม่ แต่มันคือยูเรเนียมใหม่ [ 39 ] ต่อให้เราคิดว่าป้องกันการละเมิดข้อมูลได้ ทุกครั้งที่เก็บข้อมูลเราก็ต้องชั่งน้ำหนักระหว่างประโยชน์กับความเสี่ยงที่ข้อมูลจะตกไปอยู่ในมือคนผิด ระบบคอมพิวเตอร์อาจถูกบุกรุกโดยอาชญากรหรือหน่วยข่าวกรองต่างประเทศที่เป็นศัตรู ข้อมูลอาจถูกเปิดเผยโดยบุคคลภายใน บริษัทอาจตกไปอยู่ในมือของผู้บริหารที่ไร้ยางอายที่ไม่ได้มีค่านิยมเหมือนเรา หรือประเทศอาจถูกยึดครองโดยระบอบการปกครองที่ไม่ลังเลเลยที่จะบังคับให้เรามอบข้อมูล

ตามที่ข้อสังเกตเหล่านี้ชี้ให้เห็น เมื่อเก็บรวบรวมข้อมูล เราต้องคิดไม่ใช่แค่สภาพการเมืองในวันนี้ แต่รวมถึงรัฐบาลทุกแบบที่อาจเกิดขึ้นในอนาคตด้วย ไม่มีการรับประกันว่ารัฐบาลที่ได้รับเลือกในอนาคตทั้งหมดจะเคารพสิทธิมนุษยชนและเสรีภาพของพลเมือง และดังที่ Bruce Schneier ตั้งข้อสังเกตว่า "มันเป็นสุขอนามัยทางสังคมที่ไม่ดีที่จะติดตั้งเทคโนโลยีที่อาจอำนวยความสะดวกให้กับรัฐตำรวจในสักวันหนึ่ง" [ 40 ]

"ความรู้คืออำนาจ" ดังคำกล่าวโบราณที่ว่า และยิ่งไปกว่านั้น "การตรวจสอบผู้อื่นในขณะที่หลีกเลี่ยงการถูกตรวจสอบตนเอง เป็นหนึ่งในรูปแบบอำนาจที่สำคัญที่สุด" [ 41 ] นี่คือเหตุผลที่รัฐบาลเผด็จการต้องการการเฝ้าสังเกต: มันให้อำนาจแก่พวกเขาในการควบคุมประชากร แม้ว่าบริษัทเทคโนโลยีในปัจจุบันจะไม่ได้แสวงหาอำนาจทางการเมืองอย่างโจ่งแจ้ง แต่ข้อมูลและความรู้ที่พวกเขาสะสมไว้—ส่วนใหญ่ทำอย่างลับๆ นอกเหนือจากการตรวจสอบของสาธารณชน—ก็ยังคงให้อำนาจมากมายแก่พวกเขาเหนือชีวิตของเรา [ 42 ]

Remembering the Industrial Revolution (รำลึกถึงการปฏิวัติอุตสาหกรรม)

ข้อมูลเป็นลักษณะเด่นที่นิยามยุคสารสนเทศ อินเทอร์เน็ต การจัดเก็บและประมวลผลข้อมูล และระบบอัตโนมัติที่ขับเคลื่อนด้วยซอฟต์แวร์กำลังส่งผลกระทบอย่างมากต่อเศรษฐกิจโลกและสังคมมนุษย์ ชีวิตประจำวันและการจัดระเบียบสังคมของเราถูกเทคโนโลยีสารสนเทศเปลี่ยนไปแล้ว และน่าจะยังเปลี่ยนอย่างรุนแรงต่อไปอีกหลายทศวรรษ จึงอดไม่ได้ที่จะนึกเปรียบเทียบกับการปฏิวัติอุตสาหกรรม [ 17 , 26 ]

การปฏิวัติอุตสาหกรรมเกิดขึ้นจากความก้าวหน้าทางเทคโนโลยีและการเกษตรครั้งใหญ่ และนำมาซึ่งการเติบโตทางเศรษฐกิจที่ยั่งยืนและการปรับปรุงมาตรฐานการครองชีพอย่างมีนัยสำคัญในระยะยาว — แต่มันก็มาพร้อมกับปัญหาใหญ่เช่นกัน มลพิษทางอากาศ (จากควันและกระบวนการทางเคมี) และทางน้ำ (จากของเสียทางอุตสาหกรรมและของมนุษย์) เป็นสิ่งที่น่ากลัว เจ้าของโรงงานอยู่อย่างหรูหรา ขณะที่คนงานในเมืองมักอาศัยอยู่ในที่อยู่อาศัยที่คับแคบและไม่ถูกสุขลักษณะ และทำงานเป็นเวลานานในสภาพที่โหดร้าย การใช้แรงงานเด็กเป็นเรื่องปกติ รวมถึงงานในเหมืองที่อันตรายและได้รับค่าจ้างต่ำ

ต้องใช้เวลานานก่อนที่มาตรการป้องกันจะถูกสร้างขึ้น เช่น กฎระเบียบการปกป้องสิ่งแวดล้อม ระเบียบปฏิบัติด้านความปลอดภัยในสถานที่ทำงาน กฎหมายห้ามใช้แรงงานเด็ก และการตรวจสอบสุขอนามัยของอาหาร ไม่ต้องสงสัยเลยว่าต้นทุนในการทำธุรกิจเพิ่มขึ้นเมื่อโรงงานไม่ได้รับอนุญาตให้ทิ้งของเสียลงแม่น้ำ ขายอาหารที่ปนเปื้อน หรือเอารัดเอาเปรียบคนงานอีกต่อไป แต่สังคมโดยรวมได้รับประโยชน์อย่างมหาศาลจากกฎระเบียบเหล่านี้ และมีพวกเราน้อยคนนักที่จะอยากกลับไปสู่ยุคก่อนหน้านี้ [ 17 ]

เช่นเดียวกับการปฏิวัติอุตสาหกรรมที่มีด้านมืดที่ต้องจัดการ การเปลี่ยนผ่านของเราสู่ยุคสารสนเทศก็มีปัญหาใหญ่ที่เราต้องเผชิญและแก้ไข [ 43 , 44 ] การเก็บรวบรวมและการใช้ข้อมูลเป็นหนึ่งในปัญหาเหล่านั้น ในคำพูดของ Bruce Schneier [ 26 ]:

ข้อมูลคือปัญหามลพิษของยุคสารสนเทศ และการปกป้องความเป็นส่วนตัวคือความท้าทายด้านสิ่งแวดล้อม คอมพิวเตอร์เกือบทุกเครื่องผลิตข้อมูล มันคงอยู่ เน่าเปื่อยไป วิธีที่เราจัดการกับมัน—วิธีที่เรากักเก็บมันและวิธีที่เรากำจัดมัน—เป็นหัวใจสำคัญของสุขภาพเศรษฐกิจสารสนเทศของเรา เช่นเดียวกับที่วันนี้เรามองย้อนกลับไปยังทศวรรษแรกๆ ของยุคอุตสาหกรรมและสงสัยว่าบรรพบุรุษของเราสามารถละเลยมลพิษในขณะที่เร่งรีบสร้างโลกอุตสาหกรรมได้อย่างไร หลานๆ ของเราก็จะมองย้อนกลับมาที่เราในช่วงทศวรรษแรกๆ ของยุคสารสนเทศนี้ และตัดสินเราจากวิธีที่เราจัดการกับความท้าทายของการเก็บรวบรวมข้อมูลและการใช้ข้อมูลในทางที่ผิด

เราควรพยายามทำให้พวกเขาภูมิใจ

Legislation and Self-Regulation (กฎหมายและการกำกับดูแลตนเอง)

กฎหมายคุ้มครองข้อมูลอาจช่วยรักษาสิทธิของบุคคลได้ ตัวอย่างเช่น GDPR ระบุว่าข้อมูลส่วนบุคคลต้องถูก "เก็บรวบรวมเพื่อวัตถุประสงค์ที่ระบุไว้ ชัดเจน และชอบด้วยกฎหมาย และไม่ถูกประมวลผลต่อไปในลักษณะที่ขัดแย้งกับวัตถุประสงค์เหล่านั้น" และต้อง "เพียงพอ เกี่ยวข้อง และจำกัดเฉพาะสิ่งที่จำเป็นในส่วนที่เกี่ยวกับวัตถุประสงค์ที่ [มัน] ถูกประมวลผล" [ 32 ]

อย่างไรก็ตาม หลักการของ Data Minimization (การลดข้อมูลให้เหลือน้อยที่สุด) นี้ขัดแย้งโดยตรงกับแนวคิดของ big data ซึ่งต้องการเก็บข้อมูลให้ได้มากที่สุด รวมข้อมูลที่เก็บมาเข้ากับชุดข้อมูลอื่น และทดลองสำรวจเพื่อหา insight ใหม่ๆ การสำรวจหมายถึงการใช้ข้อมูลเพื่อวัตถุประสงค์ที่คาดไม่ถึง ซึ่ง GDPR ระบุว่าตรงกันข้ามกับวัตถุประสงค์ "ที่ระบุไว้และชัดเจน" ซึ่งต้องเป็นวัตถุประสงค์ที่เก็บรวบรวมข้อมูลมา แม้ว่ากฎระเบียบนี้จะมีผลกระทบบางอย่างต่ออุตสาหกรรมโฆษณาออนไลน์ [ 45 ] แต่มันก็ถูกบังคับใช้อย่างอ่อนแอ [ 46 ] และดูเหมือนจะไม่นำไปสู่การเปลี่ยนแปลงทางวัฒนธรรมและแนวปฏิบัติในวงกว้างในอุตสาหกรรมเทคโนโลยี

บริษัทที่รวบรวมข้อมูลจำนวนมากเกี่ยวกับผู้คนส่วนใหญ่คัดค้านกฎระเบียบว่าเป็นภาระและอุปสรรคต่อนวัตกรรม ในระดับหนึ่ง การคัดค้านนั้นก็สมเหตุสมผล ตัวอย่างเช่น การแบ่งปันข้อมูลทางการแพทย์สร้างความเสี่ยงที่ชัดเจนต่อความเป็นส่วนตัว แต่ก็สร้างโอกาสที่มีศักยภาพเช่นกัน: จะป้องกันการเสียชีวิตได้กี่รายหากการวิเคราะห์ข้อมูลสามารถช่วยให้เราบรรลุการวินิจฉัยที่ดีขึ้นหรือหาวิธีรักษาที่ดีขึ้น [ 47 ]? การควบคุมที่มากเกินไปอาจขัดขวางความก้าวหน้าเช่นนี้ เป็นเรื่องยากที่จะสร้างสมดุลระหว่างโอกาสที่มีศักยภาพกับความเสี่ยง [ 41 ]

โดยพื้นฐานแล้ว เราต้องการการเปลี่ยนแปลงทางวัฒนธรรมในอุตสาหกรรมเทคโนโลยีในเรื่องข้อมูลส่วนบุคคล เราควรเลิกมองผู้ใช้เป็นแค่ metric ที่ต้อง optimize และจำไว้ว่าพวกเขาเป็นมนุษย์ที่สมควรได้รับความเคารพ ศักดิ์ศรี และอำนาจในการตัดสินใจ เราควรกำกับดูแลการเก็บรวบรวมและประมวลผลข้อมูลของเราเอง เพื่อสร้างและรักษาความไว้วางใจของผู้คนที่พึ่งพาซอฟต์แวร์ของเรา [ 48 ] และเราควรรับภาระหน้าที่ในการให้ความรู้แก่ผู้ใช้ปลายทางเกี่ยวกับวิธีการใช้ข้อมูลของพวกเขา แทนที่จะปิดบังพวกเขา

เราควรให้แต่ละคนรักษาความเป็นส่วนตัวของตนไว้ได้ (คือควบคุมข้อมูลของตัวเองได้) และไม่ขโมยอำนาจควบคุมนั้นไปจากพวกเขาผ่านการเฝ้าสังเกต สิทธิส่วนบุคคลของเราในการควบคุมข้อมูลของเราเปรียบเสมือนสภาพแวดล้อมทางธรรมชาติของอุทยานแห่งชาติ: หากเราไม่ปกป้องและดูแลมันอย่างชัดเจน มันก็จะถูกทำลาย มันจะกลายเป็น Tragedy of the Commons (โศกนาฏกรรมของสาธารณสมบัติ) และเราทุกคนจะแย่ลงเพราะมัน การเฝ้าสังเกตที่แพร่หลายไม่ได้เป็นสิ่งหลีกเลี่ยงไม่ได้ เรายังสามารถหยุดมันได้

ในขั้นแรก เราไม่ควรเก็บข้อมูลไว้ตลอดไป แต่ควรลบข้อมูลทันทีที่ไม่จำเป็นอีกต่อไป และลดสิ่งที่เราเก็บรวบรวมตั้งแต่แรก [ 48 , 49 ] ข้อมูลที่คุณไม่มีคือข้อมูลที่ไม่สามารถรั่วไหล ถูกขโมย หรือถูกบังคับโดยรัฐบาลให้ส่งมอบ โดยรวมแล้ว การเปลี่ยนแปลงทางวัฒนธรรมและทัศนคติจะมีความจำเป็น ในฐานะคนที่ทำงานด้านเทคโนโลยี หากเราไม่พิจารณาผลกระทบทางสังคมของงานของเรา เราก็ไม่ได้ทำหน้าที่ของเรา [ 50 ]

Summary (สรุป)

มาถึงตอนจบของหนังสือแล้ว เราได้ครอบคลุมเนื้อหามามากมาย:

• ใน บทที่ 1 เราเปรียบเทียบระบบ analytical กับ operational เปรียบเทียบ cloud กับ self-hosting ชั่งน้ำหนักระหว่าง distributed system กับระบบเครื่องเดียว และพูดถึงการสร้างสมดุลระหว่างความต้องการของธุรกิจกับความต้องการของผู้ใช้

• ใน บทที่ 2 เราดูวิธีกำหนด nonfunctional requirement (ข้อกำหนดที่ไม่ใช่เชิงฟังก์ชัน) หลายด้าน เช่น performance (ประสิทธิภาพ) reliability (ความน่าเชื่อถือ) scalability (ความสามารถในการปรับขนาด) และ maintainability (ความสามารถในการบำรุงรักษา)

• ใน บทที่ 3 เราได้สำรวจสเปกตรัมของโมเดลข้อมูล รวมถึง relational model (โมเดลเชิงสัมพันธ์) document model (โมเดลเอกสาร) และ graph model (โมเดลกราฟ) รวมถึง event sourcing และ DataFrame เรายังดูตัวอย่าง query language ต่างๆ รวมถึง SQL, Cypher, SPARQL, Datalog และ GraphQL

• ใน บทที่ 4 เราได้พูดถึง storage engine สำหรับ OLTP (LSM-tree และ B-tree) และงานวิเคราะห์ (column-oriented storage) รวมถึง index สำหรับ information retrieval (full-text search และ vector search)

• ใน บทที่ 5 เราได้ศึกษาวิธี encode data object เป็น byte และวิธีรองรับ evolution ของระบบเมื่อความต้องการเปลี่ยนไป เรายังเปรียบเทียบวิธีต่างๆ ที่ข้อมูลไหลระหว่าง process: ผ่าน database, service call, workflow engine และ event-driven architecture

• ใน บทที่ 6 เราได้ศึกษา trade-off ระหว่าง single-leader, multi-leader และ leaderless replication เรายังดู consistency model (โมเดลความสอดคล้อง) เช่น read-after-write consistency และ sync engine ที่ทำให้ client ทำงานแบบออฟไลน์ได้

• ใน บทที่ 7 เราได้ดู sharding รวมถึงกลยุทธ์สำหรับ rebalancing, request routing และ secondary indexing

• ใน บทที่ 8 เราได้ครอบคลุมเรื่อง transaction ทั้ง durability วิธีทำให้ได้ isolation level ต่างๆ (read committed, snapshot isolation และ serializable) และวิธีรับประกัน atomicity ใน distributed transaction

• ใน บทที่ 9 เราได้สำรวจปัญหาพื้นฐานที่เกิดขึ้นใน distributed system (network fault และ delay, clock error, process pause, crash) และเห็นว่าแม้แต่สิ่งที่ดูเรียบง่ายอย่าง lock ก็ยังทำให้ถูกต้องได้ยากเพียงใด

• ใน บทที่ 10 เราได้ดำดิ่งลงไปใน consensus รูปแบบต่างๆ และ consistency model อย่าง linearizability ที่ consensus ทำให้เป็นไปได้

• ใน บทที่ 11 เราได้เจาะลึก batch processing ตั้งแต่ chain ง่ายๆ ของ Unix tool ไปจนถึง distributed batch processor ขนาดใหญ่ที่ใช้ distributed filesystem หรือ object store

• ใน บทที่ 12 เราได้ต่อยอด batch processing ไปสู่ stream processing และพูดถึง message broker พื้นฐาน, CDC, fault tolerance และรูปแบบการประมวลผลอย่าง streaming join

• ใน บทที่ 13 เราได้สำรวจแนวคิดเบื้องหลังระบบ streaming ที่ช่วยให้ระบบข้อมูลที่แตกต่างกันบูรณาการกันได้ ระบบพัฒนาต่อไปได้ และแอปพลิเคชัน scale ได้ง่ายขึ้น

ในบทสุดท้ายนี้ เราถอยกลับมาตรวจสอบแง่มุมด้านจริยธรรมบางประการของการสร้าง data-intensive application (แอปพลิเคชันที่เน้นข้อมูลเป็นหลัก) เราได้เห็นว่าแม้ข้อมูลสามารถใช้เพื่อทำความดีได้ แต่มันก็สามารถก่อให้เกิดอันตรายอย่างมีนัยสำคัญได้เช่นกัน: การตัดสินใจที่ส่งผลกระทบร้ายแรงต่อชีวิตผู้คนและยากที่จะอุทธรณ์ นำไปสู่การเลือกปฏิบัติและการเอารัดเอาเปรียบ ทำให้การเฝ้าสังเกตกลายเป็นเรื่องปกติ และเปิดเผยข้อมูลส่วนตัวที่ใกล้ชิด เรายังเผชิญกับความเสี่ยงของการรั่วไหลของข้อมูล และเราอาจพบว่าการใช้ข้อมูลด้วยเจตนาดีก็มีผลกระทบที่ไม่ได้ตั้งใจ

ด้วยผลกระทบอันใหญ่หลวงที่ซอฟต์แวร์และข้อมูลมีต่อโลก ในฐานะวิศวกร เราต้องจำไว้ว่าเรามีความรับผิดชอบที่จะทำงานเพื่อสร้างโลกแบบที่เราอยากอาศัยอยู่: โลกที่ปฏิบัติต่อผู้คนด้วยความเป็นมนุษย์และความเคารพ มาทำงานร่วมกันไปสู่เป้าหมายนั้นกันเถอะ