การตรวจสอบอคติทางเชื้อชาติในการจดจำใบหน้า: เทคโนโลยีนี้มีอคติหรือไม่?

เทคโนโลยีจดจำใบหน้า (Facial Recognition) และความสามารถของมันเติบโตเกินลึกซึ้งมาตั้งแต่มีอัลกอริทึมใหม่เสริมเทคโนโลยีนี้ในการบังคับใช้กฎหมาย ปัจจุบัน เทคโนโลยีจดจำใบหน้าถูกใช้โดยหน่วยบังคับใช้กฎหมายในระดับต่ำสุดของกระบวนการรวบรวมข้อมูล เพื่อระบุผู้กระทำความผิดในกลุ่มชนแออัด ใช้ภาพจากกล้อง CCTV ในสาธารณะ แล้วรันข้อมูลกับฐานข้อมูลหน่วยงาน เพื่อตรวจจับใบหน้าที่ถูก 통จีเพื่อความผิดทางอาญา

เทคโนโลยีนี้ยังถูกฝังเข้าไปในอุปกรณ์เล็กๆ รวมถึงโทรศัพท์มือถือและอุปกรณ์สวมใส่ได้ ดังนั้นมันไม่ได้คุ้มครองคุณบนถนนอย่างเดียว แต่ยังตั้งใจปกป้องข้อมูลส่วนตัวบนอุปกรณ์อัจฉริยะของคุณ การใช้ "faceprint" สำหรับการตลาดและโฆษณากลายเป็นเรื่องปกติในยุคสื่อสังคม และยังมีการเฝ้าระวังส่วนตัวในห้างสรรพสินค้า ร้านค้า ฯลฯ

จากมุมมองนี้ สามารถระบุได้ชัดเจนว่าข้อดีของเทคโนโลยีจดจำใบหน้าไม่สามารถปฏิเสธได้ แต่ก็ถูกตรวจสอบเพราะภัยคุกคามต่อความเป็นส่วนตัว การปกป้องข้อมูล และความโปร่งใสระหว่างกฎหมายและสาธารณะ การรู้ทั้งข้อดีและข้อเสียของเทคโนโลยีที่กระทบเข้าแบบนี้เป็นสิ่งดี แต่ยังมีข้อเสียอีกอย่างที่คนมักละเลย คือ การสร้างโปรไฟล์เชื้อชาติและการเลือกปฏิบัติทางเชื้อชาติ

ในบทความนี้ เราดูว่าเทคโนโลยีนี้ส่งเสริมอคติและการเลือกปฏิบัติทางเชื้อชาติอย่างไร และผลกระทบร้ายแรงของเทคโนโลยีที่กระทบเข้าแบบนี้คืออะไร

การจดจำใบหน้าทำงานอย่างไร?

ขั้นตอนที่ 1: ถ่ายรูปคุณจากกล้อง บัญชี อีเมล ฯลฯ อาจเป็นรูปโปรไฟล์ตรงหน้าหรือถ่ายสุ่มในฝูงชน

ขั้นตอนที่ 2: ซอฟต์แวร์จดจำใบหน้าจะรันใบหน้าคุณผ่านฐานข้อมูล faceprint ที่เก็บไว้ Faceprint รวบรวมผ่านการติดตามเรขาคณิตของใบหน้า

ขั้นตอนที่ 3: เปอร์เซ็นต์การจับคู่ของรูปคุณกับ faceprint ที่รู้จัก จะถูกสร้างขึ้นโดยอัลกอริทึม และตัดสินใจจากนั้น

อคติอัตโนมัติ (Automation Bias): หนึ่งในข้อบกพร่องมากมายของเทคโนโลยีจดจำใบหน้า

Automation Bias หรือ Machine Bias หมายถึงสถานการณ์ที่อัลกอริทึมเครื่องแสดงอคติบางอย่างในการปรับเทียบข้อมูลนำเข้า ทำให้ได้ผลลัพธ์ที่ไม่พึงประสงค์ เกิดขึ้นเมื่อมีข้อผิดพลาดในโค้ดอัลกอริทึม ขาดชุดข้อมูลสำหรับปรับเทียบ ค่าอินพุตผิด หรือข้อมูลอินพุตมากเกินไปเกินความสามารถของเครื่องในการปรับเทียบ

การสร้างโปรไฟล์เชื้อชาติเกี่ยวข้องกับทั้งนี้อย่างไร?

เริ่มจากเหตุการณ์เก่าในปี 2001 ที่ถือว่าไม่สำคัญ Tampa City ใช้ซอฟต์แวร์จดจำใบหน้าตรวจสอบเมืองที่แออัดจากนักท่องเที่ยวเพราะ Super Bowl 2001 ตามรายงาน New York Times ซอฟต์แวร์ระบุ 19 คนที่มีหมายจับแข่ง แต่ไม่มีการจับกุม เพราะโครงสร้างสนามทำให้ไปถึงผู้ถูกระบุไม่ได้ในฝูงชนมหาศาล

แม้ในกรณีนี้ไม่พบการสร้างโปรไฟล์เชื้อชาติ แต่เป็นครั้งแรกที่เทคนิคการเฝ้าระวังถูกตั้งคำถามต่อการละเมิดเสรีภาพและความเป็นส่วนตัว ในภายหลัง Tampa Police ยกเลิกระบบเหล่านี้เพราะผลไม่น่าเชื่อถือ

ข้ามไปสู่สถานการณ์ gầnๆ Ali Breland รายงานให้ The Guardian เกี่ยวกับการจับกุม Willie Lynch ชายผิวดำ ถูกกล่าวหาว่าเป็นเจ้าของยาเสพติดชื่อดังในเขต Brentwood ซึ่งเป็นย่านที่ประชากรสีเป็นส่วนใหญ่ หลักฐ据เดียวคือรูปถ่ายบนมือถือที่รันกับฐานข้อมูลตำรวจ ก่อนตัดสินว่าเขาคือผู้กระทำ Lynch ถูกตัดสินจำคุก 8 ปี และได้อุทธรณ์ ตรงหรือไม่ เขาเป็นเจ้าของยาจริงหรือไม่ มันยกคำถามว่า ผลลัพธ์จากเครื่องเพียงอย่างเดียวพอที่จะรองรับการตัดสินสินใครสักคนที่อยู่ระหว่างสอบสวนหรือไม่?

ปี 2019 ตามรายงาน Tom Perkins ให้ The Guardian ตำรวจ Detroit ใช้จดจำใบหน้าจับกุมโดยประมาณ 2 ปี Detroit เป็นที่ที่ประชากรผิวดำมากกว่า 80% ข้อความจากสมาชิกคณะกรรมการตำรวจ Detroit ที่เป็นผิวดำ ยกกังวลต่อการปฏิบัตินี้ กล่าวว่าผู้มีสีผิวดำมีลักษณะใบหน้าร่วมกันที่ทำอัลกอริทึมระบบเสี่ยง เรียกว่า "techno-racism"

ในงานวิจัย 2019 สำหรับ Journal of Information Communication and Ethics Society โดย Fabio Bacchini และ Ludovica Lorusso พบว่าระบบชีวภาพและจดจำใบหน้าไม่ 100% น่าเชื่อถือต่อการบังคับใช้กฎหมาย อีกทั้งการเลือกปฏิบัติทางเชื้อชาติเป็นผลกระทบเชิงลบต่อระบบทุกประเภท ซึ่งมีผลกระทบทางสังคมย้อนกลับ งานวิจัยเน้นสังคมตะวันตกโดยเฉพาะ ที่ใช้ระบบเหล่านี้อย่างกว้างขวางเพื่อการเฝ้าระวัง

นี่คือเพียง 3 ตัวอย่างจากหลายกรณีที่ความแตกต่างทางเชื้อชาติจากระบบจดจำใบหน้าถูกเปิดเผย แต่ทำไมระบบเหล่านี้ถึงไร้ความสามารถถึงขนาดนี้ ถึงแม้ความแม่นยำของอัลกอริทึมจะเพิ่มขึ้นเรื่อยๆ

อาวุธนิยมผิวขาวในรัฐตะวันตก: อุตสาหกรรมเทคโนโลยีที่ขาวเป็นส่วนใหญ่

ปี 2014 บริษัทเทคโนโลยีส่วนใหญ่ รวมถึง Apple Inc. จ้างพนักงานส่วนใหญ่เป็นชายผิวขาว ที่ Apple 55% เป็นผิวขาว และผู้นำ Apple 63% เป็นผิวขาว บริษัทที่รายงานความหลากหลายคล้ายกันรวมถึง Facebook, Google, Twitter 5 ปีต่อมา รายงานใน Wired เปิดเผยว่าตัวเลขปรับปรุงน้อยมาก

Facebook แสดงการปรับปรุงที่ดี แต่เปอร์เซ็นต์พนักงานเทคนิคผิวดำของ Apple ยังคงอยู่ที่เพียง 6% ของแรงงาน Amazon เป็นองค์กรเดียวที่มีพนักงานผิวดำหรือลาตินอเมริกัน 42% ในสำนักงานสหรัฐ

ตัวเลขเหล่านี้บ่งชี้อะไร? ในสหรัฐ นักเขียนโค้ดส่วนใหญ่ที่ได้รับมอบหมายโครงการใหญ่อย่างออกแบบอัลกอริทึมระบบเฝ้าระวัง เป็นผิวขาว พวกเขาคือคนตัดสินใจสำคัญเกี่ยวกับผลิตภัณฑ์/บริการที่จะเปิดตัว และมุมมอง แนวทาง กระบวนการคิดของพวกเขาเข้าไปในผลิตภัณฑ์สุดท้าย ไม่ได้หมายความว่าผู้มีผิวขาวเป็นคนแบ่งสีและออกแบบระบบเฝ้าระวังแบบนี้โดยเจตนา ไม่!

เมื่อชายผิวขาวออกแบบอัลกอริทึมจดจำใบหน้า และมีเพื่อนร่วมงานผิวขาวเท่านั้นที่ปรึกษา/ช่วยเหลือ พวกเขาไม่พิจารณาลักษณะใบหน้าของคนสีอื่นก่อนปิดโค้ด เนื่องจากวิศวกรผิวขาวครองอุตสาหกรรมเทคโนโลยี ไฟล์ข้อมูลที่ใช้เตรียมโค้ดเริ่มต้นก็ถูกสร้างและปรับเทียบโดยช่างเทคนิคผิวขาว ดังนั้นโค้ดเองถูกสร้างด้วยอคติในอัลกอริทึมคำนวณหลัก ทำให้เกิดความแตกต่างทางเชื้อชาติในผลการเฝ้าระวัง

โค้ดเพียงเรียนรู้สิ่งที่ผู้มีผิวขาวฝากไว้ ไม่มีมุมมองหรือส่วนร่วมจากคนสีอื่น

ปัญหาการปรับเทียบ (Calibration Issues)

การบังคับใช้กฎหมายอเมริกาพึ่งพาการเฝ้าระวังและติดตามข้อมูลมาก มีหลายกรณีที่ผู้แจ้งข่าวเปิดเผยการเฝ้าระวังพลเมืองโดยไม่ได้รับอนุญาต การเปิดเผยของ Edward Snowden เกี่ยวกับการเฝ้าระวังผิดกฎหมายของ NSA เป็นตัวอย่างหนึ่ง

โปรแกรมเฝ้าระวังเหล่านี้ได้รับการสนับสนุนจาก faceprint และข้อมูลส่วนตัวของล้านล้านพลเมือง ถ้าพิจารณาแค่ faceprint มีล้านล้านอเมริกันแชร์รูปบนโซเชียลมีเดีย และมีกล้อง CCTV ทุกถนนที่ให้ภาพผู้เดินทางหลายแสนคน ปัจจุบันมีรูปประมาณ 117 ล้านรูปในฐานข้อมูลตำรวจ ในขณะที่ FBI มีชุดข้อมูลมากกว่า 400 ล้านชุดสำหรับปรับเทียบในอัลกอริทึมจดจำใบหน้าเฝ้าระวัง

ลองนึกภาพชุดข้อมูลเหล่านี้เทียบกับรูปภาพเดียวที่อาจจับลักษณะใบหน้าไม่ครบ ในสถานการณ์แบบนี้ ข้อผิดพลาดน่าจะเกิดขึ้น ข้อมูลเยอะเกินไปที่จะเข้าใจและรันกับ faceprint เดียว ไม่มีอัลกอริทึมใดรับรองความมั่นใจ 100% เมื่อการปรับเทียบซับซ้อนขนาดนี้ สิ่งนี้เพิ่มขึ้นไปอีกในการสร้างโปรไฟล์เชื้อชาติจากเทคโนโลยีจดจำใบหน้า

ความพึ่งพามากเกินไปในการจดจำใบหน้า

กรณี Willie Lynch เตือนว่า การจดจำใบหน้าไม่ควรเป็นเทคนิคเดียวที่น่าเชื่อถือในฐานหลักฐานเมื่อพูดถึงการบังคับใช้กฎหมาย นี่คือเหตุที่ Tampa city police ยกเลิกเทคโนโลยีนี้

จริงที่การจดจำใบหน้าเป็นที่พักพิงที่ดีและช่วยตำรวจ แต่ไม่สามารถเป็นหลักฐานเดียวเพื่อตัดสินสินใครได้ ต้องมีหลักฐานสนับสนุนเพื่อพิสูจน์ผลลัพธ์ของอัลกอริทึมจดจำใบหน้า และแนวคิด Automation Bias ต้องพิจารณาก่อนตัดสินใจสุดท้าย

ปัญหาฮาร์ดแวร์: การจดจำใบหน้าในมือถือและกล้อง

ระบบกล้องเฝ้าระวังและฮาร์ดแวร์/ซอฟต์แวร์ที่เกี่ยวข้อง ไม่ได้ถูกออกแบบโดยบริษัทเดียว เป็นอุตสาหกรรมมูลค่าหลายพันล้านดอลลาร์ ที่บริษัทสิบๆ แห่งแข่งขันเพื่อได้สัญญาจากหน่วยงานบังคับใช้กฎหมาย หลายระบบมาจากผู้ผลิตจีน ทุกอย่างเกี่ยวกับการได้เทคโนโลยีที่ถูกที่สุดและคุณภาพดีที่สุด นั่นคือวิธีการทำงานส่วนใหญ่ และดังนั้น จึงมีโอกาสที่การปรับเทียบของระบบต่างๆ จะแตกต่างกัน รวมถึงความแตกต่างของคุณภาพผลการเฝ้าระวัง อัลกอริทึมกล้องเฝ้าระวังหลายตัว ไม่มีประสิทธิภาพในการปรับเทียบภาพคนสี เพราะความไม่สามารถทางเทคนิค ทำให้การเลือกปฏิบัติทางเชื้อชาติเพิ่มขึ้น

ปัญหาเทคโนโลยีที่ก่อให้เกิดอคติเชื้อชาติผ่านการจดจำใบหน้า ยังสังเกตได้ในฟีเจอร์ Apple Face Lock กรณีจากจีนเปิดเผยว่า iPhone X Face Lock แยกแยะเพื่อนร่วมงานจีน 2 คนไม่ได้ ทำให้ฟีเจอร์นี้ไร้ประโยชน์ รายงานคล้ายกันถูกปฏิเสธ โดยอ้างปัญหาในการแยกคนผิวดำ 2 คน ตามที่กล่าว Apple มีพนักงานเทคนิคผิวดำเพียง 6% นี่คือตัวอย่างชัดเจนว่าเทคโนโลยีจดจำใบหน้าสามารถส่งเสริมอคติเชื้อชาติได้ถึงในอุปกรณ์มือของเรา

สรุป

ใช่ การจดจำใบหน้ามีอคติเชื้อชาติ และเป็นความรู้ทั่วไปแล้ว แม้เทคโนโลยีจะเติบโตทุกวันเพื่อแก้ไขปัญหาเหล่านี้ ผลลัพธ์ก็ยังคงเดิม เทคโนโลยีควรเป็นเครื่องมือรวมโลกเพื่อเป้าหมายร่วมของความก้าวหน้าทางเทคนิคและพัฒนาการ แต่บางเทคนิคแค่ก่อให้เกิดความเสียหายต่อความกลมกลืนทางเชื้อชาติและชุมชน

ตอนนี้ สิ่งที่ดีที่สุดที่เจ้าหน้าที่บังคับใช้กฎหมายทำได้ คือ ไม่สนับสนุนคดีของพวกเขาด้วยหลักฐานจากการปรับเทียบอัลกอริทึมที่ไม่ได้น่าเชื่อถือแม้แต่น้อย นอกจากนี้ 已经是เวลาที่ความหลากหลายและการรวมตัวในที่ทำงานจะถูกนำไปพิจารณาอย่างจริงจัง เพื่อให้คนทุกเชื้อชาติมาร่วมสร้างผลิตภัณฑ์ที่ปราศจากความแตกต่างทางเชื้อชาติ มีเชื้อชาติหลายพันพวกในโลก และคนๆ ได้เรียนรู้ที่จะวางความแตกต่างทางเชื้อชาติลง ซึ่งกวนใจสังคมโลกมานานแล้ว หากต้องการรักษาไว้ เครื่องจักรที่เราพึ่งพามากมาย ต้องถูกสอนให้เข้าใจอย่างเดียวกัน