การสร้างโปรไฟล์ทางเชื้อชาติในเทคโนโลยีการจดจำใบหน้า:การจดจำใบหน้าสามารถเหยียดเชื้อชาติได้หรือไม่

การจดจำใบหน้า เทคโนโลยีและความสามารถของเทคโนโลยีได้เติบโตไปไกลเกินกว่าที่เราจะจินตนาการได้ นับตั้งแต่อัลกอริธึมใหม่ๆ ที่เสริมความแข็งแกร่งให้กับเทคโนโลยีนี้ในการบังคับใช้กฎหมายได้เข้ามามีบทบาทสำคัญ ปัจจุบัน เทคโนโลยีการจดจำใบหน้าถูกใช้โดยหน่วยงานบังคับใช้กฎหมายในระดับต่ำสุดของกระบวนการรวบรวมข้อมูลเพื่อระบุตัวผู้กระทำความผิดทางอาญาท่ามกลางการชุมนุมที่แออัด เทคโนโลยีนี้ใช้ภาพจากกล้องวงจรปิดในที่สาธารณะและตามท้องถนน จากนั้นเรียกใช้ข้อมูลที่รวบรวมกับเอกสารสำคัญของหน่วยงานเพื่อตรวจจับใบหน้าที่เป็นที่ต้องการตัวสำหรับความผิดทางอาญา

เทคโนโลยีนี้ถูกฝังอยู่ในอุปกรณ์ขนาดเล็กที่สุด รวมถึงโทรศัพท์มือถือและอุปกรณ์สวมใส่อัจฉริยะ ดังนั้นจึงไม่เพียงแค่ปกป้องคุณบนท้องถนนเท่านั้น แต่ยังตั้งใจที่จะปกป้องข้อมูลส่วนบุคคลของคุณที่จัดเก็บไว้ในอุปกรณ์สมาร์ทของคุณด้วย การใช้ "faceprint" สำหรับแนวทางปฏิบัติด้านการตลาดและการโฆษณากลายเป็นเรื่องปกติในยุคปัจจุบันของการรณรงค์ทางโซเชียลมีเดีย จากนั้นมีการเฝ้าระวังส่วนตัวในห้างสรรพสินค้า ร้านค้าปลีก ฯลฯ

จากมุมมองนี้ เราสามารถชี้ให้เห็นข้อดีที่ปฏิเสธไม่ได้ของเทคโนโลยีการจดจำใบหน้าได้อย่างรวดเร็ว แต่ก็ได้รับการพิจารณาถึงภัยคุกคามต่อความเป็นส่วนตัวของผู้ใช้ การปกป้องข้อมูล และแน่นอน ความโปร่งใสระหว่างกฎหมายและสาธารณะ เป็นเรื่องดีที่จะทราบทั้งข้อดีและข้อเสียของเทคโนโลยีที่รุกรานดังกล่าว ยังมีข้อเสียอีกอย่างหนึ่งของเทคโนโลยีการจดจำใบหน้าซึ่งผู้คนดูเหมือนจะไม่สนใจ นั่นคือการสร้างโปรไฟล์ทางเชื้อชาติและการเหยียดผิว .

ในส่วนนี้ เราจะพิจารณาว่าเทคโนโลยีนี้ส่งเสริมอคติทางเชื้อชาติและการเลือกปฏิบัติอย่างไร และผลกระทบที่ร้ายแรงของเทคโนโลยีที่รุกรานดังกล่าวเป็นอย่างไร

การจดจำใบหน้าทำงานอย่างไร

ขั้นตอนที่ 1: รูปภาพของคุณถ่ายจากกล้อง บัญชีของคุณ อีเมล ฯลฯ โดยอาจเป็นรูปโปรไฟล์ตรงหรือถ่ายแบบสุ่มในฝูงชน

ขั้นตอนที่ 2: ซอฟต์แวร์จดจำใบหน้าจะเรียกใช้ใบหน้าของคุณผ่านฐานข้อมูลของการพิมพ์ใบหน้าที่เก็บไว้ การรวบรวมใบหน้าผ่านการติดตามใบหน้าของคุณทางเรขาคณิต

ขั้นตอนที่ 3: เปอร์เซ็นต์การจับคู่รูปภาพของคุณกับรูปแบบใบหน้าใดๆ ที่รู้จักนั้นสร้างขึ้นโดยใช้อัลกอริทึมที่ใช้กำหนด

อคติของระบบอัตโนมัติ:หนึ่งในข้อบกพร่องหลายประการของเทคโนโลยีการจดจำใบหน้า

Automation Bias หรือ Machine Bias หมายถึงสถานการณ์ที่อัลกอริธึมของเครื่องจักรแสดงอคติบางอย่างในการสอบเทียบข้อมูลอินพุต จึงทำให้เอาต์พุตไม่เอื้ออำนวย สิ่งนี้เกิดขึ้นเมื่อมีข้อผิดพลาดในรหัสอัลกอริทึม ไม่มีชุดข้อมูลที่เก็บไว้สำหรับการสอบเทียบ ค่าที่ป้อนไม่ถูกต้อง หรือข้อมูลที่ป้อนมากเกินไป ซึ่งเกินกำลังของเครื่องที่จะสอบเทียบ

การสร้างโปรไฟล์ทางเชื้อชาติเกี่ยวข้องกับเรื่องทั้งหมดนี้อย่างไร

เริ่มจากเหตุการณ์ในสมัยโบราณซึ่งถือว่าไม่สำคัญในเวลานั้น ในปี 2544 แทมปาซิตี้ใช้ซอฟต์แวร์จดจำใบหน้าเพื่อเฝ้าระวังเมืองที่มีผู้คนพลุกพล่านขณะที่นักท่องเที่ยวหลั่งไหลมาเต็มถนนในเมืองเนื่องจากการแข่งขันซูเปอร์โบวล์ในปี 2544 ตามรายงานของ New York Times ซอฟต์แวร์ระบุบุคคล 19 คนที่คาดว่าจะมีหมายจับค้างชำระกับพวกเขา อย่างไรก็ตาม ไม่มีการจับกุมเนื่องจากโครงสร้างพื้นฐานของสนามกีฬาทำให้ไม่สามารถจับตัวผู้กระทำผิดได้ท่ามกลางฝูงชนที่ล้นหลาม

แม้ว่ากรณีนี้จะไม่มีร่องรอยของการระบุข้อมูลทางเชื้อชาติ แต่นี่เป็นครั้งแรกที่มีการใช้เทคนิคการสอดแนมเพื่อต่อต้านการละเมิดสิทธิเสรีภาพและความเป็นส่วนตัวของบุคคล ในปีต่อๆ มา ตำรวจแทมปาเลิกใช้ระบบการเฝ้าระวังเหล่านี้โดยอ้างผลลัพธ์ที่ไม่น่าเชื่อถือ

ส่งต่ออย่างรวดเร็วไปยังสถานการณ์ที่ค่อนข้างใหม่กว่านั้น Ali Breland รายงานสำหรับ The Guardian เกี่ยวกับการจับกุม Willie Lynch ชายผิวดำที่ถูกกล่าวหาว่าเป็นผู้ค้ายาเสพติดที่มีชื่อเสียงในพื้นที่ Brentwood ซึ่งเป็นย่านที่มีคนผิวสีเป็นส่วนใหญ่ หลักฐานเดียวที่เอาผิดลินช์ได้คือรูปภาพของเขาในมือถือ ซึ่งถูกรันกับฐานข้อมูลของตำรวจก่อนที่ตำรวจจะตัดสินว่าเขาเป็นผู้กระทำความผิด ลินช์ถูกตัดสินลงโทษเป็นเวลาแปดปี ซึ่งขณะนี้ได้ยื่นอุทธรณ์คำตัดสินดังกล่าวแล้ว ไม่ว่าเขาจะเป็นตัวแทนจำหน่ายที่ถูกกล่าวหาหรือไม่ก็ตาม ทำให้เกิดความกังวลอย่างหลีกเลี่ยงไม่ได้ว่าผลลัพธ์จากเครื่องจักรจะเพียงพอที่จะรักษาความเชื่อมั่นของใครก็ตามที่ถูกสอบสวนหรือไม่

ในปี 2019 ตามรายงานของ Tom Perkins สำหรับ The Guardian ตำรวจดีทรอยต์ถูกพบว่าใช้การจดจำใบหน้าเพื่อจับกุมตัวในช่วงสองปีที่ผ่านมา ดีทรอยต์เป็นสถานที่ที่ประชากรมากกว่า 80% เป็นคนผิวดำ คำแถลงจากสมาชิกผิวดำจากคณะกรรมาธิการตำรวจดีทรอยต์แสดงความกังวลต่อการปฏิบัติ เขากล่าวว่าคนผิวดำมีลักษณะใบหน้าที่เหมือนกันซึ่งเป็นอันตรายต่ออัลกอริทึมของระบบ โดยเรียกสิ่งนี้ว่า "การเหยียดเชื้อชาติทางเทคโนโลยี"

ในการวิจัยปี 2019 สำหรับ Journal of Information Communication and Ethics Society โดย Fabio Bacchini และ Ludovica Lorusso พบว่าระบบไบโอเมตริกและการจดจำใบหน้าเหล่านี้ไม่น่าเชื่อถือ 100% ต่อการบังคับใช้กฎหมาย ยิ่งกว่านั้น การเลือกปฏิบัติทางเชื้อชาติยังส่งผลเสียต่อระบบดังกล่าวทั้งหมด ซึ่งส่งผลกระทบในทางลบต่อสังคมอีกด้วย การศึกษานี้มุ่งเป้าไปที่สังคมตะวันตกโดยเฉพาะ ซึ่งระบบดังกล่าวถูกใช้อย่างกว้างขวางในการเฝ้าระวัง

นี่เป็นเพียงสามตัวอย่างจากหลายกรณีที่มีกรณีความไม่เสมอภาคทางเชื้อชาติที่เกิดจากระบบจดจำใบหน้า แต่เหตุใดระบบเหล่านี้จึงไร้ความสามารถ ทั้งๆ ที่มีความแม่นยำเพิ่มขึ้นในการอัปเกรดการเข้ารหัสด้วยอัลกอริทึมในเทคโนโลยี

อำนาจสูงสุดของคนผิวขาวในรัฐทางตะวันตก:อุตสาหกรรมเทคโนโลยีที่มีคนผิวขาวเป็นส่วนใหญ่

ในปี 2014 บริษัทเทคโนโลยีส่วนใหญ่รวมถึงบริษัทยักษ์ใหญ่อย่าง Apple Inc. พบว่าจ้างพนักงานชายผิวขาวเป็นส่วนใหญ่ ใน Apple พนักงาน 55% เป็นคนผิวขาว และในทำนองเดียวกัน ผู้บริหารของ Apple ประกอบไปด้วยพนักงานผิวขาว 63% บริษัทที่แบ่งปันรายงานความหลากหลายที่คล้ายกัน ได้แก่ Facebook, Google และ Twitter เช่นกัน ห้าปีต่อมา รายงานใน Wired เปิดเผยว่าตัวเลขเหล่านี้มีการปรับปรุงเพียงเล็กน้อยเท่านั้น

ในขณะที่ Facebook แสดงตัวเลขที่ดีขึ้น แต่เปอร์เซ็นต์ของคนงานด้านเทคนิคที่เป็นสีดำของ Apple ไม่เปลี่ยนแปลงที่เพียง 6% ของจำนวนพนักงานทั้งหมด Amazon เป็นองค์กรเดียวที่ลงทะเบียนคนงานผิวดำหรือละตินอเมริกา 42% ในสำนักงานในสหรัฐอเมริกา

สถิติเหล่านี้บ่งบอกอะไร? ในสหรัฐอเมริกา ผู้เขียนโค้ดส่วนใหญ่ที่ได้รับมอบหมายให้ทำงานในโครงการสำคัญ เช่น การออกแบบอัลกอริทึมสำหรับระบบเฝ้าระวัง เป็นคนผิวขาว คนเหล่านี้คือผู้ที่ทำการตัดสินใจที่สำคัญที่สุดเกี่ยวกับผลิตภัณฑ์หรือบริการที่จะเปิดตัว/เปิดตัวโดยบริษัท ดังนั้น มุมมอง แนวทาง และกระบวนการคิดของพวกเขาจึงเป็นที่มาของการสร้างขั้นสุดท้าย นี่ไม่ได้หมายความว่าคนผิวขาวเป็นชนชั้นและจงใจออกแบบระบบเฝ้าระวังดังกล่าว ไม่!

เมื่อคนผิวขาวออกแบบอัลกอริทึมการจดจำใบหน้าและมีเพียงเพื่อนร่วมงานผิวขาวคอยให้คำปรึกษา/ช่วยเหลือเขา พวกเขาจะไม่พิจารณาคนที่มีลักษณะใบหน้าเหมือนสีผิวอื่นก่อนที่จะสรุปรหัส เนื่องจากวิศวกรผิวขาวมีอิทธิพลเหนืออุตสาหกรรมเทคโนโลยี คลังข้อมูลที่ใช้ในการเตรียมโค้ดเริ่มต้นจึงถูกสร้างขึ้นและสอบเทียบโดยช่างเทคนิคผิวขาวเช่นกัน ดังนั้น ตัวโค้ดจึงถูกสร้างขึ้นโดยมีอคติในอัลกอริทึมการคำนวณหลัก ซึ่งส่งผลให้เกิดความไม่เสมอภาคทางเชื้อชาติในผลการเฝ้าระวัง

รหัสเพียงแค่เรียนรู้สิ่งที่คนผิวขาวรวบรวมไว้ในนั้น ไม่มีมุมมองหรือการมีส่วนร่วมของบุคคลที่มีสีอื่น

ปัญหาเกี่ยวกับการสอบเทียบ

การบังคับใช้กฎหมายของอเมริกาอาศัยการเฝ้าระวังและการติดตามข้อมูลเป็นอย่างมาก มีหลายกรณีที่ผู้แจ้งเบาะแสลบข้อมูลเกี่ยวกับการสอดแนมพลเรือนโดยไม่ได้รับอนุญาต การเปิดเผยของ Edward Snowden เกี่ยวกับการเฝ้าระวังที่ผิดกฎหมายของ NSA เป็นตัวอย่างหนึ่ง

โปรแกรมการเฝ้าระวังเหล่านี้ได้รับการสนับสนุนโดยการพิมพ์ใบหน้าและข้อมูลส่วนตัวอื่น ๆ ของพลเมืองหลายล้านคน หากเราพิจารณาเฉพาะใบหน้า มีชาวอเมริกันหลายล้านคนแบ่งปันรูปภาพอย่างเปิดเผยบนแพลตฟอร์มโซเชียลมีเดีย จากนั้นมีกล้องวงจรปิดตามถนนทุกสายของประเทศที่บันทึกภาพสดของผู้สัญจรไปมาหลายแสนคน ปัจจุบันมีภาพประมาณ 117 ล้านภาพในฐานข้อมูลของตำรวจ ในขณะที่ FBI มีชุดข้อมูลมากกว่า 400 ล้านชุดสำหรับปรับเทียบในอัลกอริธึมการจดจำใบหน้าของผู้เฝ้าระวัง

ตอนนี้ลองนึกภาพชุดข้อมูลเหล่านี้เปรียบเทียบกับภาพเดียวที่อาจหรืออาจไม่ได้บันทึกลักษณะใบหน้าของบุคคลใดบุคคลหนึ่งทั้งหมด ในสถานการณ์ดังกล่าว อาจเกิดข้อผิดพลาดขึ้นได้ มีข้อมูลมากเกินกว่าจะเข้าใจและเรียกใช้เทียบกับการพิมพ์หน้าเดียว ไม่มีอัลกอริทึมใดสามารถรับประกันผลได้ร้อยเปอร์เซ็นต์ เมื่อการสอบเทียบมีความซับซ้อนมาก ในที่สุดสิ่งนี้จะรวมเข้ากับการสร้างโปรไฟล์ทางเชื้อชาติที่เกิดจากเทคโนโลยีการจดจำใบหน้า

ความน่าเชื่อถืออย่างมากในการจดจำใบหน้า

กรณีของ Willie Lynch เป็นเครื่องเตือนใจว่าการจดจำใบหน้าไม่ควรเป็นเทคนิคที่เชื่อถือได้เพียงวิธีเดียวที่นำเสนอเป็นหลักฐานในการบังคับใช้กฎหมาย นี่คือเหตุผลที่ตำรวจเมืองแทมปาเลิกใช้เทคโนโลยี

จริงอยู่ว่าการจดจำใบหน้าเป็นทางเลือกที่ยอดเยี่ยมและเป็นประโยชน์กับตำรวจ ผู้ก่อเหตุวางระเบิดบอสตันมาราธอนได้รับการยอมรับโดยใช้การวิเคราะห์ที่ครอบคลุมและละเอียดของการบันทึกการเฝ้าระวัง แต่นี่ไม่สามารถเป็นหลักฐานเดียวที่จะตัดสินใครก็ได้ ต้องมีหลักฐานสนับสนุนเพื่อพิสูจน์ผลลัพธ์ของอัลกอริธึมการจดจำใบหน้า และต้องพิจารณาแนวคิดเรื่องความเอนเอียงของระบบอัตโนมัติก่อนที่จะถึงการพิจารณาขั้นสุดท้าย

ปัญหาของฮาร์ดแวร์:การจดจำใบหน้าในมือถือและกล้อง

ระบบกล้องวงจรปิดและฮาร์ดแวร์และซอฟต์แวร์ที่เกี่ยวข้องไม่ได้ออกแบบโดยบริษัทเดียว เป็นอุตสาหกรรมที่มีมูลค่าหลายพันล้านดอลลาร์ ซึ่งบริษัทหลายสิบแห่งแข่งขันกันเพื่อทำสัญญาจากหน่วยงานบังคับใช้กฎหมาย ระบบเหล่านี้ส่วนใหญ่มาจากผู้ผลิตจีน ทุกอย่างเกี่ยวกับการใช้เทคโนโลยีที่ถูกที่สุดพร้อมคุณภาพที่ดีที่สุด นั่นเป็นวิธีการทำงานส่วนใหญ่ ดังนั้นจึงมีโอกาสเกิดความแตกต่างในการสอบเทียบระบบต่างๆ ได้เสมอ เช่นเดียวกับการเปลี่ยนแปลงในคุณภาพของผลการเฝ้าระวัง อัลกอริทึมกล้องวงจรปิดจำนวนมากไม่มีประสิทธิภาพในการปรับเทียบภาพคนผิวสีเพียงเพราะความไร้ความสามารถทางเทคนิค ดังนั้นจึงเป็นการยกย่องการเลือกปฏิบัติทางเชื้อชาติ

ปัญหาด้านเทคโนโลยีที่ก่อให้เกิดการเหยียดเชื้อชาติผ่านการจดจำใบหน้ายังพบในคุณสมบัติ Apple Face Lock คดีจากจีนระบุว่าการล็อกใบหน้าของ iPhone X ไม่สามารถแยกความแตกต่างระหว่างเพื่อนร่วมงานชาวจีนสองคนได้ ทำให้ฟีเจอร์นี้ไร้ประโยชน์ รายงานที่คล้ายกันถูกยกเลิก โดยอ้างถึงประเด็นในลักษณะที่แยกคนผิวดำสองคนออกจากกัน ตามที่ระบุไว้ข้างต้น Apple มีคนผิวดำเพียง 6% ในทีมเทคนิค เป็นตัวอย่างที่ชัดเจนว่าเทคโนโลยีการจดจำใบหน้าสามารถส่งเสริมการเหยียดเชื้อชาติแม้ในอุปกรณ์พกพาของเราได้อย่างไร

บทสรุป

ใช่ การจดจำใบหน้าเป็นการแบ่งแยกเชื้อชาติ และนั่นเป็นความรู้ทั่วไปในขณะนี้ แม้ว่าเทคโนโลยีจะเติบโตขึ้นทุกวันเพื่อแก้ไขปัญหาดังกล่าว แต่ผลลัพธ์ก็เหมือนกันทั้งหมด เทคโนโลยีควรจะรวมโลกเข้าด้วยกันโดยมีเป้าหมายร่วมกันคือความก้าวหน้าทางเทคนิคและการพัฒนา แต่เทคนิคบางอย่างก็ก่อให้เกิดอันตรายต่อความสามัคคีทางเชื้อชาติและชุมชน

สำหรับตอนนี้ สิ่งที่ดีที่สุดที่เจ้าหน้าที่บังคับใช้กฎหมายทำได้คือไม่สนับสนุนคดีของพวกเขาตามหลักฐานจากการสอบเทียบอัลกอริทึม ซึ่งไม่น่าเชื่อถือด้วยซ้ำ ยิ่งกว่านั้น ถึงเวลาแล้วที่ความหลากหลายและการรวมเป็นหนึ่งในสถานที่ทำงานจะถูกนำมาใช้อย่างจริงจัง เพื่อให้ผู้คนจากทุกเชื้อชาติสามารถมารวมกันเพื่อสร้างผลิตภัณฑ์ที่ปราศจากความเหลื่อมล้ำทางเชื้อชาติ โลกมีเชื้อชาติเป็นพันๆ และผู้คนเริ่มแยกความแตกต่างทางเชื้อชาติออกไป ซึ่งตามหลอกหลอนสังคมโลกมาช้านาน หากต้องบำรุงรักษา เครื่องจักรที่เราพึ่งพาตัวเองมากก็ต้องได้รับการสอนแบบเดียวกัน