ในโลกที่ข้อมูลประจำตัวออนไลน์ของคุณเชื่อมโยงกับคุณโดยตรง โอกาสในการจำลองแบบที่สมบูรณ์แบบเป็นเรื่องที่น่ากังวล แต่นั่นคือสิ่งที่เราต้องเผชิญเมื่อเทคโนโลยี Deepfake เกิดขึ้น
เมื่อเทคโนโลยีมีราคาถูกลงและใช้งานง่ายขึ้น อันตรายของ Deepfakes คืออะไร? นอกจากนี้ คุณจะสังเกตเห็นของปลอมกับของจริงได้อย่างไร
Deepfake คืออะไร
Deepfake คือชื่อที่มอบให้กับสื่อที่บุคคลในวิดีโอหรือรูปภาพถูกแทนที่ด้วยความคล้ายคลึงของคนอื่น คำนี้เป็นคำที่คล้ายกันของ "การเรียนรู้เชิงลึก" และ "ของปลอม" และใช้อัลกอริธึมการเรียนรู้ของเครื่องและปัญญาประดิษฐ์เพื่อสร้างสื่อที่เหมือนจริงแต่สังเคราะห์
โดยพื้นฐานที่สุด คุณอาจพบใบหน้าซ้อนทับกับอีกรุ่นหนึ่ง เทคโนโลยี Deepfake ที่พัฒนาอย่างรวดเร็วที่เลวร้ายที่สุดได้เย็บเหยื่อที่ไม่สงสัยให้กลายเป็นวิดีโอลามกอนาจาร ข่าวปลอม การหลอกลวง และอีกมากมาย
คุณสามารถอ่านเพิ่มเติมเกี่ยวกับต้นกำเนิดของเทคโนโลยีได้ในเครื่องมืออธิบายเชิงลึกของเรา
อันตรายของ Deepfakes คืออะไร
มีภาพปลอมอยู่เสมอ การค้นหาว่าอะไรปลอมและอะไรไม่ใช่เป็นเรื่องปกติของชีวิต โดยเฉพาะอย่างยิ่งหลังจากการเพิ่มขึ้นของสื่อดิจิทัล แต่ปัญหาที่เทคโนโลยี Deepfake สร้างขึ้นนั้นแตกต่างกัน ทำให้ภาพปลอมและวิดีโอปลอมมีความแม่นยำที่เหนือชั้น
หนึ่งในวิดีโอ Deepfake แรกที่เข้าถึงผู้ชมได้กว้างขึ้นคือ Jordan Peele ที่แอบอ้างเป็น Barack Obama ในวิดีโอที่พูดคุยถึงปัญหาที่เกิดขึ้น:
วิดีโอดูหยาบคายด้วยเสียงแปลก ๆ และสิ่งประดิษฐ์ที่เป็นเม็ดเล็ก ๆ บนใบหน้าโคลน อย่างไรก็ตาม มันแสดงให้เห็นถึงเทคโนโลยี Deepfake
หรือคุณเคยสงสัยหรือไม่ว่าจะเป็นอย่างไรถ้า Will Smith เล่น Neo ใน The Matrix แทนที่จะเป็น Keanu Reeves (ฉันหมายความว่าใครไม่ได้?!)? ไม่ต้องแปลกใจอีกต่อไป:
วิดีโอทั้งสองนี้ไม่เป็นอันตราย โดยต้องใช้เวลาหลายร้อยชั่วโมงในการเรียนรู้ของเครื่องเพื่อรวบรวม แต่เทคโนโลยีเดียวกันนี้มีให้สำหรับทุกคนที่มีเวลาเพียงพอในการเรียนรู้และมีพลังในการประมวลผลที่พร้อมจะก้าวไปด้วยกัน อุปสรรคในการใช้เทคโนโลยี Deepfake นั้นค่อนข้างสูงในตอนแรก แต่เมื่อเทคโนโลยีพัฒนาขึ้นและเป็นอุปสรรคต่อการเข้ามามีบทบาทอย่างมาก ผู้คนพบว่าการใช้งาน Deepfakes ในทางลบและเป็นอันตราย
ก่อนที่เราจะเจาะลึกด้านมืดของดีพเฟค จิม แคร์รี่ย์จะมาแทนแจ็ค นิโคลสันใน The Shining:
1. สื่อสำหรับผู้ใหญ่ปลอมที่มีคนดัง
ภัยคุกคามที่สำคัญอย่างหนึ่งจากเทคโนโลยี Deepfake คือเนื้อหาสำหรับผู้ใหญ่ที่สังเคราะห์ขึ้นหรือสื่อลามก Deepfake อย่างที่ทราบกันดี มีวิดีโอสำหรับผู้ใหญ่ปลอมหลายหมื่นรายการที่มีใบหน้าของดาราหญิงที่มีชื่อเสียง เช่น Emma Watson, Natalie Portman และ Taylor Swift
ทุกคนใช้อัลกอริธึม Deepfake แมชชีนเลิร์นนิงเพื่อเย็บใบหน้าคนดังเข้ากับร่างกายของนักแสดงสาว และทั้งหมดนี้ดึงดูดการดูหลายสิบล้านครั้งในเว็บไซต์เนื้อหาสำหรับผู้ใหญ่จำนวนมาก
ทว่าไซต์เหล่านี้ไม่ได้ทำอะไรเกี่ยวกับการหลอกลวงของคนดัง
Giorgio Patrini ซีอีโอและหัวหน้านักวิทยาศาสตร์ของ Sensity บริษัทตรวจจับและวิเคราะห์ของ Deepfake กล่าวว่า "จนกว่าจะมีเหตุผลที่ชัดเจนสำหรับพวกเขาที่พยายามจะลบและกรองออก จะไม่มีอะไรเกิดขึ้น "ผู้คนจะยังคงสามารถอัปโหลดเนื้อหาประเภทนี้ได้ฟรีโดยไม่มีผลกระทบใดๆ ต่อเว็บไซต์เหล่านี้ที่มีคนดูหลายร้อยล้านคน"
วิดีโอดังกล่าวเป็นการแสวงประโยชน์และห่างไกลจากเหยื่อฟรี ดังที่ครีเอเตอร์จอมปลอมบางคนกล่าวหา
2. เนื้อหาสำหรับผู้ใหญ่ปลอมที่มีคนธรรมดา
อะไรจะแย่ไปกว่าหนังโป๊สังเคราะห์ที่มีดาราดัง? ถูกต้อง:เนื้อหาสำหรับผู้ใหญ่ปลอมที่มีผู้หญิงที่ไม่สงสัย ผลการศึกษา Sensity ค้นพบบอท Deepfake ในแอพส่งข้อความโซเชียล Telegram ที่สร้างภาพนู้ดเดฟปลอมกว่า 100,000 ภาพ รูปภาพจำนวนมากถูกขโมยจากบัญชีโซเชียลมีเดีย ที่มีเพื่อน แฟน ภรรยา มารดา ฯลฯ
บอทเป็นความก้าวหน้าครั้งสำคัญในเทคโนโลยี Deepfake เนื่องจากผู้อัปโหลดรูปภาพไม่ต้องการความรู้ที่มีอยู่เกี่ยวกับ deepfakes การเรียนรู้ของเครื่อง หรือ AI เป็นกระบวนการอัตโนมัติที่ต้องใช้ภาพเดียว นอกจากนี้ ดูเหมือนว่าบอทโทรเลขจะใช้งานได้กับรูปภาพของผู้หญิงเท่านั้น และการสมัครสมาชิกระดับพรีเมียม (รูปภาพเพิ่มเติม ลบลายน้ำ) ก็มีราคาถูกมาก
เช่นเดียวกับ Deepfakes คนดัง ภาพ Deepfake ของบอท Telegram นั้นเป็นการเอารัดเอาเปรียบ ดูถูก และผิดศีลธรรม พวกเขาสามารถหาทางไปยังกล่องจดหมายของสามี คู่หู สมาชิกในครอบครัว เพื่อนร่วมงาน หรือเจ้านายได้อย่างง่ายดาย ซึ่งกำลังทำลายชีวิตในกระบวนการนี้ โอกาสในการขู่กรรโชกและการขู่กรรโชกรูปแบบอื่นๆ นั้นสูงมาก และเพิ่มการคุกคามจากปัญหาที่มีอยู่ เช่น ภาพอนาจารแก้แค้น
การโพสต์ deepfakes บน Telegram ทำให้เกิดปัญหาอื่นเช่นกัน โทรเลขเป็นบริการส่งข้อความที่เน้นความเป็นส่วนตัวซึ่งไม่รบกวนผู้ใช้มากเกินไป มีนโยบายในการลบบอทโป๊และบอทอื่นๆ ที่เกี่ยวข้องกับเนื้อหาสำหรับผู้ใหญ่ แต่ไม่ได้ดำเนินการใดๆ ในกรณีนี้
3. วัสดุหลอกลวง
คุณเคยเห็น Jordan Peele เล่นโอบามา ในวิดีโอนั้น เขากำลังเตือนถึงอันตรายของ Deepfakes ความกังวลหลักประการหนึ่งเกี่ยวกับเทคโนโลยี Deepfake คือการที่ใครบางคนจะสร้างและเผยแพร่วิดีโอที่สมจริงจนนำไปสู่โศกนาฏกรรมในรูปแบบใดรูปแบบหนึ่ง
ในระดับสูงสุด ผู้คนกล่าวว่าเนื้อหาวิดีโอที่ล้ำลึกอาจทำให้เกิดสงครามได้ แต่ยังมีผลลัพธ์ที่สำคัญอื่นๆ อีกด้วย ตัวอย่างเช่น วิดีโอ Deepfake ที่มีบริษัทรายใหญ่หรือ CEO ของธนาคารที่ออกแถลงการณ์ที่สร้างความเสียหายอาจทำให้ตลาดหุ้นตกต่ำได้ อีกครั้งมันสุดโต่ง แต่คนจริงๆ สามารถตรวจสอบและยืนยันวิดีโอได้ ในขณะที่ตลาดทั่วโลกตอบสนองต่อข่าวสารในทันที และการเทขายอัตโนมัติก็เกิดขึ้น
สิ่งอื่นที่ต้องพิจารณาคือปริมาณ เนื่องจากการสร้างเนื้อหา Deepfake มีราคาถูกลงเรื่อยๆ ทำให้มีความเป็นไปได้ที่จะมีเนื้อหา Deepfake จำนวนมากของบุคคลคนเดียวกัน โดยมุ่งเน้นที่การส่งข้อความปลอมแบบเดียวกันในโทน สถานที่ สไตล์ และอื่นๆ อีกมากมาย
4. ปฏิเสธวัสดุจริง
ในฐานะที่เป็นส่วนขยายของเนื้อหาหลอกลวง คุณต้องพิจารณาว่าของปลอมจะสมจริงอย่างไม่น่าเชื่อ มากจนผู้คนเริ่มตั้งคำถามว่าวิดีโอมีจริงหรือไม่ โดยไม่คำนึงถึงเนื้อหา
ถ้ามีคนก่ออาชญากรรมและหลักฐานเพียงอย่างเดียวคือวิดีโอ อะไรจะหยุดพวกเขาที่พูดว่า "ปลอมมาก มันเป็นหลักฐานเท็จ"? ในทางกลับกัน การปลูกถ่ายวิดีโอหลักฐานล้ำลึกให้ใครซักคนหาเจอล่ะ
5. ผู้นำทางความคิดปลอมและการติดต่อทางสังคม
มีหลายกรณีที่เกี่ยวข้องกับเนื้อหาที่หลอกลวงซึ่งวางตัวเป็นผู้นำทางความคิด โปรไฟล์บน LinkedIn และ Twitter ให้รายละเอียดเกี่ยวกับบทบาทระดับสูงในองค์กรเชิงกลยุทธ์ แต่บุคคลเหล่านี้ไม่มีอยู่จริงและมีแนวโน้มที่จะสร้างขึ้นโดยใช้เทคโนโลยี Deepfake
ที่กล่าวว่านี่ไม่ใช่ปัญหาเฉพาะของ Deepfake ตั้งแต่เช้าตรู่ รัฐบาล เครือข่ายสายลับ และบริษัทต่างๆ ได้ใช้โปรไฟล์และบุคคลปลอมเพื่อรวบรวมข้อมูล ผลักดันวาระ และจัดการ .
6. กลโกงฟิชชิ่ง วิศวกรรมสังคม และกลโกงอื่นๆ
วิศวกรรมสังคมเป็นปัญหาอยู่แล้วเมื่อพูดถึงเรื่องความปลอดภัย ผู้คนต้องการเชื่อใจคนอื่น มันอยู่ในธรรมชาติของเรา แต่ความไว้วางใจนั้นสามารถนำไปสู่การละเมิดความปลอดภัย การขโมยข้อมูล และอื่นๆ วิศวกรรมสังคมมักต้องการการติดต่อส่วนตัว ไม่ว่าจะเป็นทางโทรศัพท์ การใช้แฮงเอาท์วิดีโอ และอื่นๆ
สมมติว่ามีใครบางคนสามารถใช้เทคโนโลยี Deepfake เพื่อเลียนแบบผู้กำกับเพื่อเข้าถึงรหัสความปลอดภัยหรือข้อมูลที่ละเอียดอ่อนอื่นๆ ในกรณีนี้ อาจนำไปสู่การหลอกลวงที่ล้ำลึกมากมาย
วิธีการระบุและตรวจจับ Deepfakes
ด้วยคุณภาพที่เพิ่มขึ้นของ Deepfakes การค้นหา Deepfake เป็นสิ่งสำคัญ ในช่วงแรกๆ มีการบอกง่ายๆ บางอย่าง เช่น ภาพไม่ชัด วิดีโอเสียหายและสิ่งประดิษฐ์ และความไม่สมบูรณ์อื่นๆ อย่างไรก็ตาม ปัญหาปากโป้งเหล่านี้กำลังลดลงในขณะที่ค่าใช้จ่ายในการใช้เทคโนโลยีนี้ลดลงอย่างรวดเร็ว
ไม่มีวิธีใดที่สมบูรณ์แบบในการตรวจจับเนื้อหา Deepfake แต่นี่เป็นเคล็ดลับที่มีประโยชน์สี่ประการ:
- รายละเอียด . ในขณะที่เทคโนโลยี Deepfake กำลังเป็นอยู่ แต่ก็ยังมีสิ่งที่ต้องดิ้นรน โดยเฉพาะรายละเอียดเล็กๆ น้อยๆ ในวิดีโอ เช่น การเคลื่อนไหวของเส้นผม การเคลื่อนไหวของดวงตา โครงสร้างแก้ม และการเคลื่อนไหวในระหว่างการพูด และการแสดงออกทางสีหน้าที่ผิดธรรมชาติ การเคลื่อนไหวของดวงตาเป็นเรื่องใหญ่ แม้ว่าตอนนี้ Deepfakes สามารถกะพริบได้อย่างมีประสิทธิภาพ (ในช่วงแรก ๆ นี่เป็นการบอกหลัก) การเคลื่อนไหวของดวงตายังคงเป็นปัญหา
- อารมณ์ . การผูกรายละเอียดเป็นอารมณ์ หากมีคนแสดงความเห็นที่ชัดเจน ใบหน้าของพวกเขาจะแสดงอารมณ์ต่างๆ ออกมาในขณะที่พวกเขาส่งรายละเอียด Deepfakes ไม่สามารถถ่ายทอดอารมณ์ที่ลึกซึ้งเหมือนกับบุคคลจริงได้
- ไม่สอดคล้องกัน . คุณภาพวิดีโออยู่ในระดับสูงตลอดเวลา สมาร์ทโฟนในกระเป๋าของคุณสามารถบันทึกและส่งแบบ 4K ได้ ถ้าผู้นำทางการเมืองออกมาแถลง ก็อยู่หน้าห้องที่เต็มไปด้วยเครื่องบันทึกเสียงระดับแนวหน้า ดังนั้นคุณภาพการบันทึกที่ไม่ดีทั้งภาพและเสียงจึงเป็นความไม่สอดคล้องกันอย่างเด่นชัด
- ที่มา . วิดีโอปรากฏบนแพลตฟอร์มที่ได้รับการยืนยันหรือไม่ แพลตฟอร์มโซเชียลมีเดียใช้การตรวจสอบเพื่อให้แน่ใจว่าไม่มีการเลียนแบบบุคคลที่เป็นที่รู้จักทั่วโลก แน่นอนว่ามีปัญหากับระบบ แต่การตรวจสอบว่ามีการสตรีมวิดีโอที่ร้ายแรงโดยเฉพาะอย่างยิ่งจากที่ใดหรือโฮสต์ไว้ จะช่วยให้คุณทราบได้ว่าวิดีโอนั้นมีอยู่จริงหรือไม่ คุณยังสามารถลองทำการค้นหาภาพย้อนกลับเพื่อแสดงตำแหน่งอื่นๆ ที่พบภาพบนอินเทอร์เน็ต
เครื่องมือสำหรับการจำแนกและป้องกัน Deepfakes
คุณไม่ได้อยู่คนเดียวในการต่อสู้กับการตรวจจับของปลอม บริษัทเทคโนโลยีรายใหญ่หลายแห่งกำลังพัฒนาเครื่องมือสำหรับการตรวจจับ Deepfake ในขณะที่แพลตฟอร์มอื่นๆ กำลังดำเนินการตามขั้นตอนเพื่อบล็อก Deepfake อย่างถาวร
ตัวอย่างเช่น เครื่องมือตรวจจับ Deepfake ของ Microsoft Microsoft Video Authenticator จะวิเคราะห์ภายในไม่กี่วินาที โดยแจ้งให้ผู้ใช้ทราบถึงความถูกต้อง (ดูตัวอย่าง GIF ด้านล่าง) ในเวลาเดียวกัน Adobe ช่วยให้คุณสามารถเซ็นชื่อแบบดิจิทัลเพื่อป้องกันเนื้อหาจากการยักย้ายได้
แพลตฟอร์มอย่าง Facebook และ Twitter ได้แบน Deepfakes ที่เป็นอันตรายแล้ว (Deepfakes เช่น Will Smith ใน The Matrix ยังคงเป็นเกมที่ยุติธรรม) ในขณะที่ Google กำลังทำงานเกี่ยวกับเครื่องมือวิเคราะห์ข้อความเป็นคำพูดเพื่อตอบโต้ตัวอย่างเสียงปลอม
หากคุณต้องการทบทวนทักษะการตรวจจับสื่อปลอม โปรดดูรายการการทดสอบการตรวจจับปลอมสำหรับการตรวจพบและการเรียนรู้
Deepfakes กำลังมา—และพวกเขากำลังดีขึ้น
ความจริงก็คือตั้งแต่ Deepfakes เข้าสู่กระแสหลักในปี 2018 จุดประสงค์หลักคือการล่วงละเมิดผู้หญิง ไม่ว่าจะเป็นการสร้างภาพอนาจารปลอมโดยใช้ใบหน้าของคนดังหรือลอกเสื้อผ้าจากใครบางคนในโซเชียลมีเดีย ทั้งหมดนี้มุ่งเน้นไปที่การแสวงหาประโยชน์ จัดการ และทำให้ผู้หญิงทั่วโลกเสื่อมเสีย
ไม่ต้องสงสัยเลยว่าการจลาจลของ Deepfakes เกิดขึ้นที่ขอบฟ้าอย่างไม่ต้องสงสัย การเพิ่มขึ้นของเทคโนโลยีดังกล่าวก่อให้เกิดอันตรายต่อสาธารณชน แต่แทบไม่มีหนทางใดที่จะหยุดยั้งการเดินหน้า
