วิดีโอที่สร้างโดย Deepfakes และ AI อยู่ที่นี่แล้ว แต่ในช่วงไม่กี่ปีที่ผ่านมา พวกเขาเติบโตขึ้นทั้งในด้านคุณภาพและปริมาณ ทำให้ผู้คนจำนวนมากกังวลเรื่องความมั่นคงของชาติและความเป็นส่วนตัว
ถึงกระนั้น ไม่ว่าผู้ใช้ออนไลน์ที่ไม่ระบุชื่อจะพยายามทำให้วิดีโอปลอมของพวกเขาเป็นจริงเพียงใด พวกเขาไม่เคยผ่านซอฟต์แวร์จดจำใบหน้าขั้นสูงได้เลย จนถึงปัจจุบัน
API การจดจำใบหน้าหลอก
นักวิจัยจากมหาวิทยาลัย Sungkyunkwan ในเมืองซูวอน ประเทศเกาหลีใต้ ได้ทดสอบคุณภาพของเทคโนโลยี Deepfake ในปัจจุบัน พวกเขาทดสอบทั้ง Amazon และ Microsoft API โดยใช้โอเพ่นซอร์สและซอฟต์แวร์สร้างวิดีโอ Deepfake ที่ใช้กันทั่วไปเพื่อดูว่าทำงานได้ดีเพียงใด
นักวิจัยใช้ใบหน้าของดาราฮอลลีวูด ในการสร้างภาพลอกเลียนแบบที่สมจริง ซอฟต์แวร์ต้องการรูปภาพคุณภาพสูงจำนวนมากจากมุมต่างๆ ของบุคคลเดียวกัน ซึ่งหาคนดังได้ง่ายกว่าคนทั่วไป
นักวิจัยยังตัดสินใจใช้ API ของ Microsoft และ Amazon เป็นเกณฑ์มาตรฐานสำหรับการศึกษาของพวกเขา เนื่องจากทั้งสองบริษัทนำเสนอบริการจดจำใบหน้าคนดัง พวกเขาใช้ชุดข้อมูลที่เปิดเผยต่อสาธารณะและสร้าง Deepfakes มากกว่า 8,000 รายการ จากวิดีโอ Deepfake แต่ละวิดีโอ พวกเขาแยกภาพใบหน้าหลายภาพและส่งไปยัง API ที่เป็นปัญหา
ด้วย Azure Cognitive Services ของ Microsoft นักวิจัยสามารถหลอกระบบได้ 78 เปอร์เซ็นต์โดยใช้ Deepfakes ผลลัพธ์ของ Amazon ดีขึ้นเล็กน้อย โดย 68 เปอร์เซ็นต์ของใบหน้าที่ส่งมาถูกระบุว่าเป็นของจริง
แล้วเครื่องตรวจจับ Deepfake ล่ะ
เครื่องตรวจจับ Deepfake ทำงานมากหรือน้อยแบบเดียวกับที่ Deepfake ทำ ตัวตรวจจับเป็นซอฟต์แวร์ที่ได้รับการฝึกโดยใช้โมเดลการเรียนรู้ของเครื่องจักรในการตรวจหาวิดีโอ Deepfake
แต่แทนที่จะมุ่งเน้นไปที่การสร้างวิดีโอที่สมจริงเกินจริงเพื่อหลอกเครื่องตรวจจับ ตอนนี้ Deepfakes สามารถรวมตัวอย่างที่เป็นปฏิปักษ์ในทุกเฟรมเพื่อสร้างความสับสนให้กับระบบ AI อันที่จริง การโจมตีแบบ Deepfake ประเภทนี้มีอัตราความสำเร็จอยู่ระหว่าง 78 ถึง 99 เปอร์เซ็นต์
แย่ลงเรื่อยๆ
Deepfakes เป็นแอปพลิเคชั่นการเรียนรู้ของเครื่อง หากต้องการสร้างภาพที่น่าเชื่อถือแม้ในระยะไกล คุณต้องมีภาพใบหน้าของคนๆ เดียวกันหลายร้อยภาพจากมุมต่างๆ และแสดงอารมณ์ต่างๆ
เนื่องจากความต้องการข้อมูลจำนวนมหาศาล อาจมีคนคิดว่าเฉพาะผู้ที่มีสถานะออนไลน์จำนวนมากเท่านั้นที่มีความเสี่ยง เช่น คนดังและนักการเมือง แต่นั่นไม่ใช่กรณีอีกต่อไป
จากข้อมูลของ Deeptrace จำนวน Deepfake ทางออนไลน์เพิ่มขึ้น 330 เปอร์เซ็นต์ในเวลาไม่ถึงหนึ่งปี ตั้งแต่เดือนตุลาคม 2019 ถึงมิถุนายน 2020 ไม่ต้องพูดถึง ซอฟต์แวร์และอัลกอริทึมที่ผู้ผลิต Deepfake ใช้นั้นแข็งแกร่งขึ้น พร้อมใช้งานและเข้าถึงได้ง่ายขึ้น
ใครบ้างที่เสี่ยงต่อการถูก Deepfakes
เมื่อ Deepfakes กลายเป็นกระแสหลัก ความกังวลหลักคือความเป็นส่วนตัวและความมั่นคงของชาติ ผู้คนกลัวว่าวิดีโอของนักการเมืองและเจ้าหน้าที่ของรัฐจะเชื่อถือไม่ได้อีกต่อไป
แต่ในขณะที่การเพิกเฉยต่อความเสี่ยงด้านความปลอดภัยนั้นไม่มีความรับผิดชอบ แต่การสำรวจหลายครั้งพบว่าผู้ผลิต Deepfake ยังไม่สนใจที่จะรบกวนการเมืองเลย วิดีโอ Deepfakes ออนไลน์ส่วนใหญ่สามารถแบ่งออกเป็นสองประเภท:วิดีโอตลกของการสัมภาษณ์คนดัง และภาพยนตร์และเนื้อหาลามกอนาจาร
ในขณะที่การศึกษาเมื่อเร็ว ๆ นี้ดำเนินการโดยใช้ใบหน้าของคนดังเพื่อให้แน่ใจว่า Deepfakes มีคุณภาพสูงเพื่อหลอก APIs แต่นั่นไม่ได้หมายความว่าคุณจะไม่สามารถสร้าง Deepfakes ที่มีข้อมูลน้อยลงได้ แน่นอนว่าพวกเขาอาจไม่มีโอกาสหลอกระบบจดจำใบหน้าขั้นสูง แต่สามารถโน้มน้าวใจได้มากพอที่จะหลอกคนอื่นได้
ทุกวันนี้ Deepfake ของทุกคนที่มีสถานะทางสังคมสามารถทำให้เชื่อได้ พวกเขาต้องการเพียงแค่ภาพถ่ายของคุณสองสามภาพและอาจเป็นวิดีโอที่คุณแสดง ผลที่ได้คือ Deepfake อาจมีคุณภาพต่ำ แต่ก็ยังทำได้และอาจสร้างความเสียหายได้
อนาคตยังไม่เป็นที่ทราบ
มีการคาดคะเนที่ขัดแย้งกันมากมายเกี่ยวกับสถานะของ Deepfakes เนื่องจากจะไม่หายไปในเร็วๆ นี้
บางคนคาดหวังอนาคตไซเบอร์ที่ล่มสลายซึ่งคุณไม่สามารถเชื่อถือฟุตเทจใด ๆ ที่คุณเจอทางออนไลน์ได้ คนอื่นๆ มองโลกในแง่ดีมากกว่า โดยเปรียบเทียบ Deepfakes กับแอนิเมชันและกล่าวว่าอาจมีอนาคตในการผลิตเนื้อหา
