Deepfakes และวิดีโอที่สร้างโดย AI อยู่ที่นี่แล้วและจะคงอยู่ แต่ในไม่กี่ปีที่ผ่านมา คุณภาพและปริมาณของมันเพิ่มขึ้น ทำให้หลายคนกังวลเรื่องความมั่นคงแห่งชาติและความเป็นส่วนตัวส่วนตัว
ยังไงก็ตาม ไม่ว่าผู้ใช้อะนอนิมัสออนไลน์จะพยายามทำให้วิดีโอปลอมดูจริงมากแค่ไหน พวกเขาไม่เคยผ่านซอฟต์แวร์จดจำใบหน้าขั้นสูงมา ไปจนถึงตอนนี้
หลอก Face Recognition APIs
นักวิจัยที่มหาวิทยาลัย Sungkyunkwan ใน Suwon, เกาหลีใต้ ทดสอบคุณภาพของเทคโนโลยี deepfake ปัจจุบัน พวกเขาทดสอบทั้ง Amazon และ Microsoft APIs โดยใช้ซอฟต์แวร์สร้างวิดีโอ deepfile แบบโอเพนซอร์สและที่ใช้กันอย่างแพร่หลาย เพื่อดูว่าทำงานได้ดีแค่ไหน
นักวิจัยใช้ใบหน้าของดาราฮอลลีวูด เพื่อสร้าง deepfakes ที่มั่นคง ซอฟต์แวร์ต้องการภาพคุณภาพสูงจำนวนมากจากมุมต่างๆ ของคนคนเดียวกัน ซึ่งง่ายกว่ามากที่จะได้มาจากดาราแทนคนทั่วไป
นักวิจัยยังตัดสินใจใช้ Microsoft และ Amazon's API เป็นเกณฑ์มาตรฐานสำหรับการศึกษาของพวกเขา เนื่องจากทั้งสองบริษัทเสนอบริการจดจำใบหน้าดารา พวกเขาใช้ชุดข้อมูลสาธารณะและสร้าง deepfakes มากกว่า 8,000 ไฟล์ จากแต่ละวิดีโอ deepfake พวกเขาดึง face shots หลายภาพและส่งเข้าสู่ APIs ที่ต้องการทดสอบ
กับ Microsoft Azure Cognitive Services นักวิจัยสามารถหลอกระบบได้ 78 เปอร์เซ็นต์ของเวลาโดยใช้ deepfakes ผลลัพธ์ของ Amazon ดีกว่าเล็กน้อย โดยมี 68 เปอร์เซ็นต์ของใบหน้าที่ส่งเข้าไปถูกระบุว่าเป็นจริง
Deepfake Detectors ล่ะ?
Deepfake detectors ทำงาน कमोหรือเหมือน deepfake ตัวตรวจจับคือซอฟต์แวร์ที่ฝึกด้วยโมเดลแมชชีนเลิร์นวิธีตรวจจับวิดีโอ deepfake
แทนที่จะโฟกัสสร้างวิดีโอ hyper-realistic เพื่อหลอกตัวตรวจจับ deepfakes ตอนนี้สามารถรวม adversarial examples ในทุกเฟรมเพื่อทำให้ระบบ AI หงุดหงิดได้ จริงๆ แล้ว การโจมตี deepfake แบบนี้มีอัตราความสำเร็จ 78 ถึง 99 เปอร์เซ็นต์
สถานการณ์ แย่ ลง
Deepfakes เป็นแอปพลิเคชันแมชชีนเลิร์น เพื่อสร้างตัวที่น่าเชื่อถือแม้แค่นิดหน่อย คุณต้องการรูปภาพหลายร้อยภาพของใบหน้าคนเดียวกันจากมุมต่างๆ และแสดงอารมณ์ต่างๆ
เนื่องจากความต้องการข้อมูลปริมาณมาก คนคิดว่ามีเพียงคนที่มีออนไลน์เพรสเซ็นส์ (online presence) ใหญ่เท่านั้นที่เสี่ยง เช่น ดาราและนักการเมือง แต่นั่นไม่ใช่กรณีอีกต่อไป
ตาม Deeptrace จำนวน deepfakes ออนไลน์เพิ่มขึ้น 330 เปอร์เซ็นต์ในภายในไม่ถึงหนึ่งปี — จากตุลาคม 2019 ถึง มิถุนายน 2020 อีกทั้ง ซอฟต์แวร์และอัลกอริทึมที่ผู้สร้าง deepfake ใช้ กำลังแข็งแกร่งขึ้นและพร้อมใช้งานง่ายขึ้น
ใคร เสี่ยง ต่อ Deepfakes?
ตอน deepfacks กลายเป็น mainstream ความกังวลหลักคือความเป็นส่วนตัวและความมั่นคงแห่งชาติ คนเกรงว่าระบบถ่ายทำวิดีโอของนักการเมืองและเจ้าหน้าที่รัฐบาลไม่ไว้วางใจได้อีกต่อไป
แตในขณะที่มันจะไม่รับผิดชอบหากละเลยความเสี่ยงด้านความมั่นคงที่ deepfake สร้างขึ้น หลายสำรวจพบว่าผู้สร้าง deepfake ไม่ได้สนใจรบกวนการเมืองเท่านี้ ขั้นใหญ่ วิดีโอ deepfake ออนไลน์ส่วนใหญ่แบ่งได้ 2 ประเภท: วิดีโอตลกของการสัมภาษณ์ดารา และหนังและวัสดุโป๊
แม้การศึกษาล่าสุดใช้ใบหน้าดาราเพื่อให้ deepfakes มีคุณภาพสูงพอที่จะหลอก APIs แต่นั่นไม่หมายความว่าคุณไม่สามารถทำ deepfakes ด้วยข้อมูลน้อยลงได้ แน่นอน พวกเขาอาจไม่มีโอกาสหลอกระบบจดจำใบหน้าขั้นสูง แต่พวกเขาสามารถน่เชื่อถือพอที่จะหลอกคนอื่นได้
ตอนนี้ deepfakes ของใครก็ตามที่มีโซเชียลเพรสเซ็นส์ สร้างได้อย่างน่าเชื่อถือ ทั้งที่ต้องการคือ รูปถ่ายของคุณไม่กี่รูป และอาจมีวิดีโอที่คุณปรากฏ ผลลัพธ์ deepfake อาจคุณภาพต่ำ แต่ยังทำได้และอาจทำลายล้าง
อนาคต ยัง ไม่ ทราบ
มีการคาดการณ์ที่ขัดแย้งกันมากเกี่ยวกับสถานะของ deepfakes เนื่องจากพวกเขาไม่ได้หายไปในเวลานี้
บางคนคาดหวังอนาคตไซเบอร์อปอคาล립ติค ที่คุณไม่ไว้วางใจฟุตเทจใดๆ ที่คุณพบออนไลน์ อีกบางคนเป็นมุมมองราบรื่นมากกว่า เปรียบเทียบ deepfakes กับแอนิเมชัน และพูดว่ามันอาจมีอนาคตในการผลิตเนื้อหา
