ในเดือนสิงหาคม 2021 Apple เปิดเผยแผนที่จะสแกน iPhone เพื่อหาภาพการล่วงลามทางเพศเด็ก การกระทำนี้ได้รับการตบมือจากกลุ่มคุ้มครองเด็ก แต่ก่อให้เกิดความกังวล لدىผู้เชี่ยวชาญด้านความเป็นส่วนตัวและความปลอดภัย ว่าฟีเจอร์นี้อาจถูกใช้ประโยชน์ได้
Apple วางแผนเริ่มต้นที่จะรวมเทคโนโลยีการสแกน Child Sexual Abuse Material (CSAM) ใน iOS 15 แต่ได้เลื่อนการเปิดตัวฟีเจอร์นี้ไปอย่างไม่มีกำหนด เพื่อรวบรวมข้อเสนอแนะก่อนการปล่อยตัวเต็มรูปแบบ
ทำไมฟีเจอร์ตรวจจับ CSAM จึงกลายเป็นประเด็นอภิปรายที่ร้อนแรง และอะไรทำให้ Apple เลื่อนการเปิดตัว?
ฟีเจอร์สแกนรูปภาพของ Apple ทำอะไร?
Apple ประกาศจะนำฟีเจอร์สแกนรูปภาพมาใช้ในหวังที่จะต่อต้านการล่วงลามทางเพศเด็ก รูปภาพทั้งหมดในอุปกรณ์ของผู้ใช้ Apple จะถูกสแกนหาเนื้อหา pedophilia โดยใช้อัลกอริทึม "NeuralHash" ที่ Apple สร้างขึ้น
นอกจากนี้ อุปกรณ์ Apple ที่เด็กใช้จะมีฟีเจอร์ความปลอดภัยที่จะเบลอภาพผู้ใหญ่อัตโนมัติหากเด็กได้รับ และผู้ใช้จะได้รับการเตือนสองครั้งหากพยายามเปิดดู
นอกจากการลดการสัมผัสเนื้อหาผู้ใหญ่ หากผู้ปกครองลงทะเบียนอุปกรณ์ที่เด็กเป็นเจ้าของเพื่อความปลอดภัยเพิ่มเติม ผู้ปกครองจะได้รับการแจ้งเตือนกรณีเด็กได้รับเนื้อหาเพราะหรือจากใครก็ตามออนไลน์
อ่านเพิ่มเติม: สิ่งที่คุณต้องรู้เกี่ยวกับการคุ้มครองเด็กของ Apple
สำหรับผู้ใหญ่ที่ใช้ Siri ค้นหาอะไรที่ลักษณะล่วงลามทางเพศเด็ก Siri จะไม่ทำการค้นหาและแนะนำทางเลือกอื่นแทน
ข้อมูลจากอุปกรณ์ใดก็ตามที่มีรูปภาพ 10 รูปขึ้นไปที่ถูกอัลกอริทึมถือว่าน่าสงสัย จะถูกถอดรหัสและส่งต่อไปยังการตรวจสอบโดยมนุษย์
หากรูปภาพเหล่านั้นหรือรูปอื่นๆ ในอุปกรณ์ตรงกับอะไรก็ตามจากฐานข้อมูลที่จัดเตรียมโดย National Center for Missing and Exploited Children จะถูกรายงานให้เจ้าหน้าที่ และบัญชีของผู้ใช้จะถูกระงับ
ข้อกังวลหลักเกี่ยวกับฟีเจอร์สแกนรูปภาพ
ฟีเจอร์ตรวจจับ CSAM ควรจะเปิดตัวพร้อมกับการเปิดตัว iOS 15 ในเดือนกันยายน 2021 แต่ต่อหน้าความร้องเรียนอย่างกว้างขวาง Apple ตัดสินใจใช้เวลาเพิ่มเติมเพื่อรวบรวมข้อเสนอแนะและปรับปรุงฟีเจอร์นี้ นี่คือคำเตือนเต็มรูปแบบของ Apple เกี่ยวกับการเลื่อน:
"เดือนที่แล้วเราประกาศแผนสำหรับฟีเจอร์ที่มีเจตนาช่วยปกป้องเด็กจากผู้ล่าลวงที่ใช้เครื่องมือการสื่อสารเพื่อจ้างและล่วงลาม และจำกัดการแพร่กระจาย Child Sexual Abuse Material
จากข้อเสนอแนะจากลูกค้า กลุ่มปกป้องสิทธิ์ นักวิจัย และอื่นๆ เราตัดสินใจใช้เวลาเพิ่มเติมในเดือนๆ ข้างหน้าเพื่อรวบรวมข้อมูลและปรับปรุงก่อนปล่อยฟีเจอร์ความปลอดภัยเด็กที่สำคัญยิ่งเหล่านี้"
เกือบครึ่งหนึ่งของข้อกังวลที่เกี่ยวข้องกับฟีเจอร์สแกนรูปภาพของ Apple เกี่ยวกับความเป็นส่วนตัว ส่วนอีกครึ่งหนึ่งรวมถึงความแม่นยำที่น่าจะเป็นไปได้ของอัลกอริทึม และการใช้ประโยชน์จากระบบหรือช่องโหว่ที่อาจมี
มาแยกวิเคราะห์เป็น 4 ส่วน
การใช้ประโยชน์ที่เป็นไปได้
การรู้ว่าวัสดุใดๆ ที่ตรงกับลักลอบถ่ายภาพเด็กหรือภาพการล่วงลามทางเพศเด็กที่รู้จักจะทำให้อุปกรณ์อยู่ในรายการ "น่าสงสัย" สามารถทำให้อาชญากรรมไซเบอร์เริ่มกระทำ
พวกเขาสามารถส่งเนื้อหาที่ไม่เหมาะสมไปยังบุคคลอย่างเจตนาผ่าน iMessage, WhatsApp หรือวิธีอื่นๆ และทำให้บัญชีของคนนั้นถูกระงับ
Apple รับรองว่าผู้ใช้สามารถร้องเรียนได้หากบัญชีถูกระงับเนื่องจากความเข้าใจผิด
การใช้ประโยชน์จากภายใน
แม้จะออกแบบเพื่อวัตถุประสงค์ที่ดี ฟีเจอร์นี้อาจกลายเป็นภัยพิบัติสำหรับบางคน หากอุปกรณ์ของพวกเขาถูกลงทะเบียนในระบบ ด้วยหรือโดยไม่ได้ความรู้ของพวกเขา โดยญาติที่สนใจติดตามการสื่อสารของพวกเขา
แม้จะไม่เกิดขึ้น Apple ได้สร้าง backdoor ให้เข้าถึงข้อมูลของผู้ใช้ได้ที่สุดท้าย ตอนนี้เป็นเรื่องของแรงจูงใจและความมุ่งมั่นของผู้คนในการเข้าถึงข้อมูลส่วนตัวของผู้อื่น
มันไม่ได้แค่ทำให้เกิดการละเมิดความเป็นส่วนตัวร้ายแรง แต่ยังปูทางให้ญาติที่เหยียดหยาม ไม่ได้ควบคุม เพื่อน คนรัก ผู้ดูแล และเก่าสามารถบุกรุกพื้นที่ส่วนตัวหรือจำกัดเสรีภาพของใครบางคนได้อีก
ด้วยมือหนึ่ง มันมีไว้ต่อต้านการล่วงลามทางเพศเด็ก อีกมือหนึ่ง มันสามารถใช้เพื่อทำให้การละเมิดอีกประเภทหนึ่งยืดเยื้อต่อไป
การเฝ้าระวังของรัฐบาล
Apple มักจะสื่อสารตัวเองว่าเป็นแบรนด์ที่ใส่ใจความเป็นส่วนตัวมากกว่าคู่แข่ง แต่ตอนนี้ อาจกำลังเข้าสู่ทางลาดชันที่ต้องตอบสนองความต้องการความโปร่งใสของข้อมูลผู้ใช้จากรัฐบาลที่ไม่มีที่สิ้นสุด
ระบบที่มันสร้างขึ้นเพื่อตรวจจับเนื้อหา pedophilia สามารถใช้ตรวจจับเนื้อหาประเภทใดก็ได้บนโทรศัพท์ นั่นหมายความว่ารัฐบาลที่มีจิตใจคัลต์สามารถเฝ้าระวังผู้ใช้ในระดับส่วนตัวมากขึ้นหากพวกเขาได้มือบนมัน
กดขี่หรือไม่กดขี่ การมีส่วนร่วมของรัฐบาลในชีวิตประจำวันและส่วนตัวของคุณอาจทำให้ผวา และเป็นการบุกรุกความเป็นส่วนตัวของคุณ ความคิดว่าคุณต้องกังวลเกี่ยวกับการบุกรุกแบบนี้ก็ต่อเมื่อคุณทำผิดเป็นความคิดที่ผิดพลาด และไม่เห็นทางลาดชันที่กล่าวมาข้างต้น
การแจ้งเตือนผิด (False Alarms)
หนึ่งในข้อกังวลใหญ่ที่สุดของการใช้อัลกอริทึมจับคู่ภาพกับฐานข้อมูลคือการแจ้งเตือนผิด อัลกอริทึมแฮชสามารถระบุภาพสองภาพว่าเป็นคู่กันได้แม้จะไม่ใช่ภาพเดียวกัน ข้อผิดพลาดเหล่านี้เรียกว่า "collisions" (การชนกัน) ซึ่งน่ากลัวโดยเฉพาะในบริบทของเนื้อหาล่วงลามทางเพศเด็ก
นักวิจัยพบ collisions หลายอย่างใน "NeuralHash" หลังจากที่ Apple ประกาศว่าจะใช้อัลกอริทึมสำหรับสแกนภาพ Apple ตอบคำถามเกี่ยวกับการแจ้งเตือนผิดโดยชี้ว่าผลลัพธ์จะถูกตรวจสอบโดยมนุษย์ที่สุดท้าย ดังนั้นคนไม่ต้องกังวล
การหยุดชั่วคราว CSAM ของ Apple เป็นถาวรหรือไม่?
มีข้อดีและข้อเสียมากมายของฟีเจอร์ที่ Apple เสนอ แต่ละข้อเป็นจริงและมีน้ำหนัก ยังไม่ชัดเจนว่า Apple จะนำการเปลี่ยนแปลงเฉพาะเจาะจงมาเพิ่มเติมในฟีเจอร์สแกน CSAM เพื่อให้ผู้วิจารณ์พอใจ
อาจจะจำกัดการสแกนเฉพาะอัลบั้ม iCloud ที่แชร์ แทนที่จะเกี่ยวข้องกับอุปกรณ์ของผู้ใช้ น่าจะเป็นไปได้น้อยมากที่ Apple จะทิ้งแผนเหล่านี้ทั้งหมด เนื่องจากบริษัทไม่คุ้นเคยกับการยอมแพ้ในแผนของตนเอง
อย่างไรก็ตาม ชัดเจนจากการต่อต้านอย่างกว้างขวางและการที่ Apple หยุดแผนไว้ ว่าบริษัทควรนำชุมชนนักวิจัยมาร่วมตั้งแต่ต้น โดยเฉพาะสำหรับเทคโนโลยีที่ยังไม่ได้ทดสอบ
