ข้อมูลที่ถูกทำเป็นอาวุธ: คืออะไร มาจากไหน และป้องกันอย่างไร

ทอม 행ค์ฆ่าคน 5 คนจริงไหม? ไม่จริง เรื่องนี้จากหนังสือพิมพ์ขำขัน The Onion ทอม 행ค์ฆ่าไม่ได้ใครเลย คนส่วนใหญ่รู้ว่าไม่จริง ถ้าขี้ขลาด ค้นหาเร็วยืนยันความบริสุทธิ์

แทนที่จะเป็นบทความขำขันเดียว ถ้าคนเกลียดทอม 행ค์ เขียนและเผยแพร่หลายสิบบทความ เป้าหมายกลุ่มคนที่ไม่รู้มากเกี่ยวกับนักแสดง คนนี้ = cognitive hack ผ่าน "weaponized information" (ข้อมูลที่ถูกทำเป็นอาวุธ) สั้นๆ: พยายามเปลี่ยนข้อมูลในสมองคุณเพื่อบรรลุเป้าหมายบางอย่าง

กลยุทธ์เหล่านี้ส่งผลโลกจริง บางครั้งมีผลร้ายแรง คนโดนหลอกโดยโหกซและโฆษณาชวนเชื่อนานานเท่าการสื่อสารมีอยู่ แตการกำหนดเป้าหมายผู้ชมแม่นยำและการเผยแพร่ทันทีเป็นเรื่องใหม่

กรณี QAnon conspiracy theory แสดงว่าข้อมูลเท็จควบคุมคนได้ง่าย และระบาดข่าวปลอมรอบเลือกตั้งสหรัฐ 2016 ยังเป็นกังวล ไม่ควรกลัวเพราะคนส่วนใหญ่ไม่หลง แต่เมื่อ target niche groups ง่ายขึ้น ควรพิจารณาใช้เทคโนโลยีเพื่อ "cognitive security" ที่ดีขึ้น

"Weaponized information" คืออะไร?

Weaponized information = สิ่งที่ตรงเงื่อนไขอย่างน้อยหนึ่งข้อ:

• ปลอมแปลงหรือหลอกลวงโดยเจตนา
• ตั้งใจให้มุมมอง พฤติกรรม หรือความเชื่อในความจริงเปลี่ยนไป
• กำหนดเป้าหมายและออกแบบให้หลอนกลุ่มคนเฉพาะ
• จัดเป็นโฆษณาชวนเชื่อ, ข่าวปลอม, ขำขัน, conspiracy theory ฯลฯ
• เผยแพร่โดยหลัก social media และ niche websites
• อาจเกี่ยวข้อง botnets แชร์อัตโนมัติ และความคิดเห็น/แหล่งข้อมูลปลอม เพิ่มความน่าเชื่อถือและความนิยมปลอม
• อาจสร้างเพื่อผลักดันแอเจนดาหรือเล่นกับความขัดแย้งเดิมเพื่อกำไร

สรุป: คิดว่า weaponized information = โฆษณาที่ไม่มีขีดจำกัด โฆษณา target กลุ่ม เปลี่ยนความคิดเกี่ยวสินค้า แต่หยุดก่อนการโกหกจริง โฆษณา "บุหรี่ดีต่อสุขภาพ!" ไม่ผ่าน เพราะพิสูจน์ตรงข้ามแล้ว แต่ weaponized information ใช้ข้อมูลอะไรก็ได้เกี่ยวกับคุณ และไม่มีข้อกำหนดขั้นต่ำของความจริง

อาวุธนี้เป็นของใคร?

บางครั้งมี entity เดียวควบคุมแคมเปญ weaponized information หลักฐานเพิ่มขึ้นว่า รัสเซียเป็นอำนาจนำในสงครามข้อมูลเท็จ และมี entities อื่นใช้ weaponized information เพื่อเป้าหมายการเมือง ด้วยลักษณะ pseudonym industry ยากระบุว่าอะไรทำเพื่อการเมืองเป็นหลัก ความที่ profitable เพิ่มความสับสน

Fake news = ธุรกิจได้กำไร เพราะ magnify ความแยกแยะในสังคม เรื่องที่คนโต้เถียง = คลิก และมักการเมือง → ไม่แยกได้ว่าข้อมูล weaponized เพื่อการเมือง หรือเขียนในมาซิโดเนียเพื่อรายได้โฆษณา เหมือนทิ้งไดนาไมท์เข้าทะเลสาบจับปลา: คุณ = เครื่องมือหาเงิน แต่ระบบนิเวศทะเลสาบ = โดนโจมตี

ข้อมูลกลายเป็น "weaponized" อย่างไร?

Rand Waltzman (RAND Corporation) อธิบายกระบวนการ weaponize ข้อมูล:

1. แยกประชากรเป้าหมายเป็นชุมชน/กลุ่ม ตามเกณฑ์ไหนก็ได้: การเมือง, งานอดิเรก, ความสนใจ ฯลฯ
2. ระบุคนในแต่ละชุมชนที่น่าจะเชื่อข้อมูลเท็จ
3. วิเคราะห์ชุมชน ว่าสื่อสารอย่างไร
4. หา narrative และเรื่องราวที่ซ้ำในบทสนทนาชุมชน
5. ออกแบบ narrative ของตัวเองผลักมุมมอง แล้ว insert เข้าชุมชนผ่าน media ที่พวกเขารวมตัว
6. ติดตามชุมชน ปรับข้อความตาม reaction

นี่คือสิ่งแยก satire และ clickbait จาก weaponized information ไม่ว่าจะเจตนาอะไร ทุกผู้ผลิตข้อมูลปลอมต้องมีกระบวนการหาและ target ชุมชนที่เปราะบาง ข้อมูลพฤติกรรมกลุ่มเป้าหมายมากเท่าไหร่ ประสิทธิภาพเท่านั้น → นี่ส่วนหนึ่งทำให้ data breaches อย่าง Cambridge Analytica กังวล

Cognitive Security (ความปลอดภัยทางปัญญา)

สองทางหลักต่อสู้ weaponized information: หยุดการเผยแพร่กว้าง หรือ 教育ผู้คนให้รู้จัก บริษัทอย่าง Facebook, Google, Twitter พยายามลบข่าวปลอมจากแพลตฟอร์ม สตาร์ทอัพอื่นช่วย แต่เป็นการต่อสู้ที่พัฒนาตลอด และมีเส้นแบนบางระหว่าง quality control และ censorship จนกว่า weaponized information จะไม่คุ้มครั้งอีก (ทุนหรือการเมือง) ไม่น่าจะหยุดผลิต

รวมกับความพยายามเพิ่ม discernment ของผู้อ่าน เครื่องมือเหล่านี้อาจลดการแพร่และผลกระทบ ได้มีความพยายามหลายระดับเพิ่ม awareness fake news แตเป็น arms race เช่นกัน ข้อได้เปรียบใหญ่ของ weaponized information ออนไลน์ = ปรับตัวเข้ากับผู้ชมได้ทันที ถ้าคนเริ่มเช็คแหล่งที่มา redesign เร็วทำให้ดูน่าเชื่อถือ

Weaponized information ดูน่ากลัวแตจริงๆ ไม่ถึงขนาดนั้น

ระยะยาว ทรัพย์สิน cognitive security ที่ทรงพลังที่สุด = สมองมนุษย์เฉลี่ย Weaponized information ดูน่ากลัว แตไม่ใช่ mind virus ไร้ยา คนเปราะบางมักเชื่อสิ่งที่ less-than-factual อยู่แล้ว และมีมาตลอด