ในโลกที่ตัวตนออนไลน์เชื่อมโยงกับคุณโดยตรง โอกาสการจำลองอย่างสมบูรณ์เป็นเรื่องกังวล แต่นั่นคือสิ่งที่เราเผชิญกับเทคโนโลยี Deepfake
เมื่อเทคโนโลยีกลายเป็นถูกกว่าและใช้งานง่ายขึ้น อันตรายของ Deepfake คืออะไร? และคุณจะแยกแยะ Deepfake กับของแท้ได้อย่างไร?
Deepfake คืออะไร?
Deepfake คือชื่อเรียกสื่อที่บุคคลในวิดีโอหรือภาพถูกแทนที่ด้วยลักษณะของอีกคน หนึ่งคำผสมของ "deep learning" และ "fake" ใช้อัลกอริทึม Machine Learning และ AI สร้างสื่อปลอมที่ดูจริง
พื้นฐานแล้ว อาจพบใบหน้าถูกซ้อนบนโมเดลอีกคน ในขั้นสุดขั้นที่พัฒนารวดเร็ว เทคโนโลยี Deepfake ใส่เหยื่อไม่รู้ตัวเข้าไปในวิดีโอผู้ใหญ่ปลอม ข่าวปลอม หลอกลวง และมากกว่านั้น
อ่านเพิ่มเติมเกี่ยวกับต้นกำเนิดเทคโนโลยีในบทความอธิบาย Deepfake ของเรา
อันตรายของ Deepfake คืออะไร?
ภาพปลอมมีมาตลอด การแยกว่าอะไรปลอมอะไรแท้ เป็นส่วนหนึ่งของชีวิต โดยเฉพาะหลังสื่อดิจิทัลขึ้นมา แต่ปัญหาที่ Deepfake สร้างแตกต่าง นำความแม่นยำไม่มีเทียมทานมาสู่ภาพและวิดีโอปลอม
วิดีโอ Deepfire แรกที่เข้าถึงผู้ชมกว้างคือ Jordan Peele แทน Barack Obama ในวิดีโอพูดคุยเกี่ยวกับประเด็นนี้:
วิดีโอดู粗糙 เสียงแปลก และมี artifacts เม็ดบนใบหน้าที่โคลน แต่ยังแสดงเทคโนโลยี Deepfake
หรือเคยสงสัยไหม ถ้า Will Smith เล่น Neo ใน The Matrix แทน Keanu Reeves (ใครก็อยากรู้!) ไม่ต้องสงสัยแล้ว:
วิดีโอทั้งสองไม่ได้ร้ายแรง ใช้ร้อยชั่วโมง Machine Learning คอมไพล์ แต่เทคโนโลยีเดียวกันพร้อมให้ใครก็ตามที่มีเวลาเรียนและพลังคอมพิวเตอร์เพียงพอ การเข้าถึง Deepfake ตั้งแต่แรกค่อนข้างสูง แต่เมื่อเทคโนโลยีดีขึ้นและอุปสรรคเข้าถึงลดลงอย่างมาก คนหาการใช้ Deepfake ที่เป็นลบและอันตราย
ก่อนจะลงลึกด้านมืดของ Deepfake นี่คือ Jim Carrey แทน Jack Nicholson ใน The Shining:
1. วัสดุผู้ใหญ่ปลอมกับดารา
อันตรายหลักจากเทคโนโลยี Deepfake คือ วัสดุผู้ใหญ่สังเคราะห์ หรือ Deepfake porn มีวิดีโอผู้ใหญ่ปลอมหลายหมื่นชิ้น ใส่หน้าดาราหญิงชื่อดัง เช่น Emma Watson, Natalie Portman, Taylor Swift
ทั้งหมดใช้ Deepfake Machine Learning 縫หน้าดาราบนร่างนักแสดงผู้ใหญ่ และดึงดูดวิวหลายสิบล้านบนเว็บผู้ใหญ่จำนวนมาก
ไม่มีเว็บไหนทำอะไรกับ Deepfake ดารา
"จนกว่าจะมีเหตุผลแข็งแกร่งให้พวกเขาลองลบและกรอง ไม่มีอะไรจะเกิดขึ้น" Giorgio Patrini CEO และนักวิทยาศาสตร์หัวหน้า Sensity บริษัทตรวจจับและวิเคราะห์ Deepfake กล่าว "คนจะยังอิสระอัปโหลดวัสดุประเภทนี้โดยไม่มีผลกระทบต่อเว็บเหล่านี้ที่ถูกดูโดยร้อยล้านคน"
วิดีโอเหล่านี้เป็นการเอาเปรียบ และไกลจากไม่มีเหยื่อ ตามที่บางผู้สร้าง Deepfake อ้าง
2. วัสดุผู้ใหญ่ปลอมกับคนทั่วไป
อะไรแย่กว่าพอร์นปลอมดารา? ถูกต้อง: วัสดุผู้ใหญ่ปลอมกับผู้หญิงไม่รู้ตัว การศึกษาของ Sensity พบบอท Deepfake บนแอปโซเชียล Telegram สร้างรูปโป๊ปลอมเกิน 100,000 รูป หลายรูปขโมยมาจากบัญชีโซเชียล มีเพื่อน แฟน ภรรยา แม่ ฯลฯ
บอทนี้ก้าวหน้ามากในเทคโนโลยี Deepfake ผู้อัปโหลดรูปไม่ต้องมีความรู้ Deepfake, ML หรือ AI มันเป็นกระบวนการอัตโนมัติ ต้องการรูปเดียว เท่านั้น อีกอย่าง บอท Telegram ดูเหมือนทำงานกับรูปผู้หญิงอย่างเดียว และสมาชิกพรีเมียม (รูปมากกว่า ลบลายน้ำ) ถูกขายราคาถูกมาก
เหมือน Deepfake ดารา รูป Deepfake บอท Telegram เป็นการเอาเปรียบ ล่วงล้ำ และไร้ศีลธรรม พวกมันอาจหาทางไปในอินบอกซ์ของสามี คู่ แฟน ฝ่ายญาติ เพื่อนร่วมงาน หรือนายจ้าง ทำลายชีวิต กรณีขู่ชantage และการขู่กรรโชกแบบอื่น สูงมาก และเพิ่มภัยคุกคามจากปัญหาเดิม เช่น Revenge Porn
การโพสต์ Deepfake บน Telegram สร้างปัญหาอีกอย่าง Telegram เป็นบริการข้อความเน้นความเป็นส่วนตัว ไม่แทรกแซงผู้ใช้มาก มีนโยบายลบบอทโป๊และบอทเกี่ยวกับผู้ใหญ่ แต่ไม่ได้ทำอะไรในกรณีนี้
3. วัสดุหลอกลวง (Hoax Material)
คุณเคยเห็น Jordan Peele เล่น Obama ในวิดีโอนั้น เขากำลังเตือนอันตรายของ Deepfake หนึ่งในความกังวลหลักคือ ใครสร้างและเผยแพร่วิดีโอจริงจนเกิดเหตุเดือดร้อนบางรูป
ขั้นสุดขั้น คนพูดว่า Deepfake อาจก่อให้เกิดสงคราม แต่มีผลลัพธ์ใหญ่อื่น เช่น วิดีโอ Deepfake ผู้บริหารใหญ่หรือ CEO ธนาคาร พูดประโยคทำลายล้าง อาจก่อให้ตลาดหุ้นครัช แม้เป็นขั้นสุดขั้น คนจริงตรวจสอบวิดีโอได้ แตตลาดโลกรีแอคทันทีต่อข่าว และการขายอัตโนมัติเกิดขึ้นจริง
อีกอย่างพิจารณาคือ ปริมาณ ด้วยเนื้อหา Deepfake ที่ถูกกว่าขึ้นเรื่อยๆ เพิ่มความเป็นไปได้ของปริมาณ Deepfake มากมายของคนเดียวกัน เน้นส่งข้อความปลอมเดียวกันในโทน สถานที่ สไตล์ ต่างๆ
4. ปฏิเสธวัสดุแท้
เป็นส่วนขยายของ Hoax Material ต้องพิจารณาว่า Deepfake จะเป็นจริงมากจนคนจะเริ่มสงสัยว่าวิดีโอเป็นจริงหรือไม่ ไม่ว่าจะเป็นเนื้อหาอะไร
หากใครทำอาชญากรรม และหลักฐ据เพียงอย่างเดียวคือวิดีโอ อะไรจะหยุดพวกเขาบอกว่า "มันเป็น Deepfake หลักฐานปลอม"?.
5. ผู้นำความคิดและผู้ติดต่อทางสังคมปลอม
เคยมีหลายกรณีเกี่ยวกับเนื้อหา Deepfake ปลอมเป็นผู้นำความคิด โปรไฟล์ LinkedIn และ Twitter รายละเอียดตำแหน่งสูงในองค์กรกลยุทธ์ แตคุณเหล่านี้ไม่มีอยู่จริง และน่าจะสร้างด้วยเทคโนโลยี Deepfake
อย่างไรก็ตาม นี่ไม่ใช่ปัญหาเฉพาะ Deepfake ตั้งแต่แรกกาล รัฐบาล เครือข่ายสายลับ และบริษัทใช้โปรไฟล์และ persona ปลอม เพื่อ รวบรวมข้อมูล กดดันแนวทาง และ manipulative
6. การหลอกลวงฟิชชิง วิศวกรรมสังคม และหลอกลวงอื่นๆ
วิศวกรรมสังคมเป็นปัญหาเรื่องความปลอดภัย คนอยากไว้ใจคน เป็นธรรมชาติ แตความไว้ใจนี้นำไปสู่การละเมิดความปลอดภัย ขโมยข้อมูล และมากกว่านั้น วิศวกรรมสังคมมักต้องการการติดต่อส่วนตัว ไม่ว่าจะโทรศัพท์ วิดีโอคอล ฯลฯ
สมมติใครใช้เทคโนโลยี Deepfake เลียนแบบผู้จัดการ เพื่อเข้าถึงรหัสความปลอดภัยหรือข้อมูลละเอียดอ่อน ในกรณีนั้น อาจนำไปสู่氾濫ของการหลอกลวง Deepfake
วิธีจับและตรวจจับ Deepfake
เมื่อ Deepfake เพิ่มคุณภาพ การจับ Deepfake สำคัญ ตอนแรกมีสัญญาณง่ายๆ: ภาพเบลอ การเสียหายวิดีโอ และข้อบกพร่องอื่นๆ แต่สัญญาณเหล่านี้ลดลง ในขณะที่ต้นทุนเทคโนโลยีลดลงเร็ว
ไม่มีวิธีสมบูรณ์ตรวจจับ Deepfake แต่มี 4 เคล็ดลับ:
- รายละเอียด แม้ Deepfake จะดีขึ้น ยังมีส่วนที่ยาก ส่วนรายละเอียดเล็กๆ ในวิดีโอ เช่น การเคลื่อนไหวผม ตา โครงรูปแก้ม และการเคลื่อนไหวขณะพูด และอารมณ์บนใบหน้าที่ไม่ธรรมชาติ การเคลื่อนไหวตาเป็นสัญญาณใหญ่ แม้ Deepfake กระพริบได้แล้ว (ตอนแรกเป็นสัญญาณใหญ่) การเคลื่อนไหวตายังเป็นปัญหา
- อารมณ์ เกี่ยวข้องกับรายละเอียด หากใครพูดประโยคหนัก ใบหน้าจะแสดงอารมณ์หลากหลายขณะส่งรายละเอียด Deepfake ส่งอารมณ์ลึกเท่าคนจริงไม่ได้
- ความไม่สอดคล้อง คุณภาพวิดีโอสูงสุด โทรศัพท์ในกระเป๋าถ่ายและส่ง 4K ได้ หากผู้นำการเมืองพูด อยู่หน้าห้องเต็มอุปกรณ์บันทึกระดับนำ ดังนั้น คุณภาพบันทึกแย่ ทั้งภาพและเสียง เป็นความไม่สอดคล้องที่สังเกตได้
- แหล่งที่มา วิดีโอปรากฏบนแพลตฟอร์มที่ยืนยันแล้วไหม? โซเชียลมีเดียใช้การยืนยันเพื่อป้องกันคนดังถูกเลียนแบบ แน่นอน มีปัญหากับระบบ แต่เช็คว่าวิดีโอที่น่ากลัวถูกสตรีมหรือโฮสต์จากไหน จะช่วยรู้ว่าจริงหรือไม่ คุณลอง Reverse Image Search ดูว่ารูปปรากฏที่อื่นบนอินเทอร์เน็ตไหม
เครื่องมือจับและป้องกัน Deepfake
คุณไม่ได้คนเดียวในการต่อสู้จับ Deepfake บริษัทเทคโนโลยีใหญ่หลายแห่งพัฒนาเครื่องมือตรวจจับ Deepfake ในขณะที่แพลตฟอร์มอื่นก้าวบล็อก Deepfake อย่างถาวร
เช่น Microsoft Video Authenticator วิเคราะห์ภายในวินาที แจ้งความแท้ (ดู GIF ดานี้ตัวอย่าง) ขณะเดียวกัน Adobe ให้คุณเซ็นดิจิทัลเนื้อหา ป้องกันการจัดการ
แพลตฟอร์มอย่าง Facebook และ Twitter ห้าม Deepfire อันตราย (Deepfake แบบ Will Smith ใน The Matrix ยังโอเค) ในขณะที่ Google กำลังพัฒนาเครื่องมือวิเคราะห์ Text-to-speech ต่อสู้ออดิโอปลอม
หากอยากฝึกทักษะตรวจจับสื่อปลอม ดูรายการทดสอบตรวจจับปลอมของเรา
Deepfake กำลังมา — และมันดีขึ้นเรื่อยๆ
ความจริงคือ ตั้งแต่ Deepfake เข้าสู่ mainstream ในปี 2018 การใช้งานหลักคือ ล่วงล้ำผู้หญิง ไม่ว่าจะสร้างโป๊ปลอมจากหน้าดารา หรือถอดเสื้อผ้าคนบนโซเชียลมีเดีย ทั้งหมดมุ่งเอาเปรียบ จัดการ และถูดรัดผู้หญิงทั่วโลก
ไม่ต้องสงสัย วัณโรค Deepfake อยู่บนแizon ขึ้นเทคโนโลยีนี้เป็นภัยคุกคามสาธารณะ แตมีการรักษาไม่มากที่จะหยุดการก้าวหน้า
