หากมีรูปภาพต้นทางเพียงพอ การทำให้จอร์แดน พีลกลายเป็นประธานาธิบดีโอบามา จิมมี่ ฟอลลอนกลายเป็นจอห์น ออลิเวอร์ หรือ จอน สโนว์กลายเป็นโฆษกแฟน Game of Thrones ที่ผิดหวัง ไม่ได้ยากอะไร ตอนแรก การจับ deepfake ไม่ยาก แม้ตัวที่ดีที่สุดก็มีสัญญาณ視覺如 การเบลอ การบิดเบือน และความแตกต่างของใบหน้าที่ดู "แปลกๆ"
แต่มันเป็นเกมแมวและหนู เทคโนโลยี generation ถัดไปจะแก้ไขข้อบกพร่องทันทีที่เราเรียนรู้วิธีตรวจจับ ดังนั้น มีโซลูชันที่น่าเชื่อถือไหมสำหรับการระบุวิดีโอที่พยายามหลอกลวงเรา?
เบาะแสทางสายตา
Artifacts ไม่ใช่แค่ของที่อินเดียนา โจนส์วางในพิพิธภัณฑ์ — มันยังคือความผิดปกติเล็กๆ ที่เหลืออยู่หลังจากภาพหรือวิดีโอถูกจัดการ ใน deepfake รุ่นแรก มักจับได้ด้วยตาเปล่า และ deepfake คุณภาพต่ำยังมีสัญญาณเตือน เช่น การเบลอรอบขอบ ใบหน้าสลิปเกินไป คิ้วสองชั้น การขัดข้อง หรือความรู้สึก "ไม่ธรรมชาติ" ของวิธีที่ใบหน้าประกอบ
แต่ทุกเทคนิคตอนนี้ปรับปรุงจน artifacts เหล่านี้มองเห็นได้เฉพาะอัลกอริทึมที่เปรียบเทียบข้อมูลวิดีโอและตรวจสอบระดับพิกเซล บางเทคนิคฉลาดมาก เช่น การตรวจสอบว่าทิศทางของจมูกตรงกับทิศทางของใบหน้าหรือไม่ ความแตกต่างเล็กมากที่มนุษย์จับไม่ได้ แต่มшинทำได้ดีมาก
เบาะแสทางชีววิทยา
พอดีคิดว่าความลับในการปลอก deepfake คือการขาดรูปแบบการกระพริบตาที่เป็นธรรมชาติ เนื่องจากขาดรูปภาพ "ปิดตา" ในข้อมูลต้นทาง แต่งeneration ถัดไปนำการกระพริบตาที่ดีกว่าเข้ามา ทำให้เทคนิคนี้มีประสิทธิภาพลดลงเร็วมาก
ตัวชี้วัดชีววิทยาอื่นๆ ยังไม่ถูกแยกวิเคราะห์หมด เช่น ความพิเศษของแต่ละบุคคลที่อัลกอริทึมทำให้เป็น deepfake ได้ยาก เพราะต้องเข้าใจบริบทของภาษาที่ใช้ นิสัยเล็กๆ เช่น กระพริบตาเร็วเมื่อประหลาดใจ หรือยกคิ้วเมื่อถามคำถาม สามารถนำมาใช้ใน deepfake ได้ แต่อาจไม่ได้ในเวลาที่เหมาะสม เพราะยังคำนวณไม่ได้ว่าควรทำการเคลื่อนไหวนั้นเมื่อไหร่
AI ที่อ่านอัตราการเต้นของหัวใจจากภาพวิดีโอ มีประโยชน์มากนอกเหนือจากการตรวจจับ deepfake การมองหาการเคลื่อนไหวและการเปลี่ยนสีที่ส่งสัญญาณอัตราการเต้นหัวใจ ช่วยระบุผู้แทนที่สร้างโดย AI ได้ สัญญาณชัดเจนที่สุดคือ deepfake ไม่มีการเต้นหัวใจเลย แต่อาจมี맥박 แม้กระนั้น ความผิดปกติ (เช่น ส่วนต่างของใบหน้าแสดงอัตราการเต้นต่างกัน) ยังช่วยระบุ deepfake ได้
โครงการ AI
ชื่อดังมากๆ สนใจแก้ปัญหา deepfake มาก Facebook, Google, MIT, Oxford, Berkeley และสตาร์ทอัพ/นักวิจัยหลายแห่งกำลังฝึก AI ให้จับวิดีโอปลอมด้วยวิธีข้างต้นและอื่นๆ
ทั้ง Facebook และ Google กำลังสร้าง dataset วิดีโอกุณภาพสูงของนักแสดงทำกิจกรรมต่างๆ แล้วนำมาสร้าง deepfake AI ที่ฝึกด้วยข้อมูลเหล่านี้จึงเรียนรู้สัญญาณบ่งชี้ของ deepfake และได้รับมอบหมายให้ตรวจจับพวกมัน
แต่วิธีนี้ทำงานได้ก็ต่อเมื่อนักวิจัยสร้าง deepfake ด้วยเทคโนโลยีล่าสุดเสมอ หมายความว่าจะมีช่วงเวลาล่าช้าระหว่างการค้นพบเทคนิค deepfake ใหม่และอัลกอริทึมจับได้ โชคดีถ้าการทดลองใช้หนูจริงในการจับ deepfake ให้ผลสำเร็จและให้ข้อได้เปรียบกับเรา
การรับรองความถูกต้อง
เทคโนโลยีตรวจจับไม่ใช่คำตอบสมบูรณ์ เพราะอาจไม่มีอัตราสuccess 100% Deepfake ที่ใช้เวลาและเงินพัฒนาอาจผ่านการทดสอบและวิธี AI ปัจจุบันได้ และจำไว้ว่า Internet ทำงานอย่างไร: แม้จับได้ ก็อาจถูกแชร์ซ้ำและคนบางกลุ่มยังเชื่อ
ดังนั้น จำเป็นต้องมีกลไกการตรวจสอบ — หนังสือรับรองว่าวิดีโอไหนเป็นต้นฉบับ หรือบ่งชี้ว่าถูกแก้ไข บริษัทอย่าง Factom, Ambervideo, และ Axiom กำลังเข้ารหัสข้อมูลวิดีโอลงบน blockchain ที่เปลี่ยนแปลงไม่ได้
แนวคิดพื้นฐานคือ ข้อมูลในไฟล์วิดีโอหรือที่กล้องสร้าง สามารถสร้างลายเซ็นเฉพาะตัวที่จะเปลี่ยนหากวิดีโอถูกปลอมแปลง ในอนาคต วิดีโอที่อัปโหลดโซเชียลมีเดียอาจมีตัวเลือกสร้างรหัสรับรองที่ผู้อัปโหลดต้นฉบับลงทะเบียนบน blockchain เพื่อพิสูจน์ว่าเป็นเจ้าของวิดีโอต้นฉบับ
โซลูชันเหล่านี้ก็มีปัญหาเหมือนกัน เช่น การเข้ารหัสวิดีโอเปลี่ยนข้อมูลในไฟล์และลายเซ็นโดยเนื้อหาไม่เปลี่ยน หรือการตัดต่อวิดีโอที่ถูกต้องทำลายลายเซ็น แต่ในสถานการณ์เสี่ยงสูง เช่น ธุรกรรมเชิงพาณิชย์ที่ใช้ภาพยืนยันการส่งมอบหรือหาเงินทุน การมีชั้นการรับรองนี้อาจป้องกันการฉ้อโกงจาก deepfake ได้
Deepfake อันตรายกว่า Photoshop หรือไม่?
ตอนนี้เราสมมติว่าภาพอาจไม่ใช่จริง เพราะรู้ว่าเทคโนโลยีทำให้ทุกอย่างดูจริงในภาพนิ่งได้ ในที่สุดเราอาจมองวิดีโอด้วยความสงสัยแบบเดียวกันเมื่อการปลอมแปลงง่ายและน่าเชื่อถือเท่า Photoshop แม้มีความตระหนักทั่วไป ก็ง่ายที่จะจินตนาการเหตุการณ์จริงเริ่มจาก deepfake คุณภาพสูงที่ปล่อยออกมาในเวลาที่เหมาะสมในอีกไม่กี่ปี
