เบราว์เซอร์ AI ตกกับหลอกลวงทั่วไปที่คุณไม่ไว้วางใจ

เมื่อพูดถึงไซเบอร์ความปลอดภัย เรามักจินตนาการแฮกเกอร์เก่งกว่าคน แต่เกิดอะไรขึ้นถ้า AI เป็นผู้คลิกแทน?

รุ่นใหม่ของเบราว์เซอร์ AI เช่น ChatGPT Atlas, Opera Neon, Perplexity Comet และ Dia ของ The Browser Company สัญญาเล่นเว็บให้คุณ พวกเขาอ่านไซต์ ตามลิงก์ กรอกฟอร์ม และแม้แต่ซื้อของ นี่คือลุคประณามของอนาคต จนคุณตระหนักอย่างหนึ่ง: มนุษย์ตกหลอกลวงเสมอ ดังนั้นอะไรกำลังหยุดเอเจนต์ AI อัตโนมัติเหล่านี้ไม่ให้ตกปัญหาเดียวกัน?

เบราว์เซอร์และเอเจนต์ AI ตกหลอกลวงอย่างไร

ผลลัพธ์แย่ทั่วทั้งบอร์ดสำหรับเบราว์เซอร์ AI

Atlas browser ของ OpenAI มานานและเปิดตัวกับ hype มาก แต่ไม่ใช้เวลานานนักที่นักวิจัยกัดเข้าไปหาว่า OpenAI ใส่ใจความปลอดภัยแค่ไหน

ผลลัพธ์ไม่น่าปลื้ม บริษัทความปลอดภัย LayerX พบปัญหาสำคัญ 2 ประการกับ Atlas ภายในไม่กี่วันหลังเปิดตัว

ช่องโหว่หนึ่งเน้น prompt injection อนุญาตให้ฉีดคำสั่งอันตรายเข้า feature memory ของ ChatGPT คำสั่งต่อมาอนุญาตให้ execute remote code ซึ่งอันตรายมาก การวิจัยของ LayerX ยังพบว่า Atlas หยุดเพียง 5.8 เปอร์เซ็นต์ของหน้าเว็บอันตรายที่พบ ดังนั้น มากกว่า 90 เปอร์เซ็นต์ของเวลา มันจะโต้ตอบกับหน้าฟิชชิงแทนที่จะปิดแท็บและเดินต่อ

ในความยุติธรรมต่อ OpenAI และ Atlas browser มันไกลจากเบราว์เซอร์ AI เพียงตัวเดียวที่มีฟีเจอร์ agentic AI ที่ทำงานแย่ในการทดสอบของ LayerX Comet AI browser ของ Perplexity ที่ได้รับความนิยม หยุดได้แค่ 7 เปอร์เซ็นต์ของหน้าฟิชชิง

เปรียบเทียบ Edge, Chrome และ Dia หยุดได้มากกว่ามาก คือ 53, 47 และ 46 เปอร์เซ็นต์ ตามลำดับ

Scamlexity

บริษัทวิจัยความปลอดภัย Guardio พบปัญหาช่วงคล้ายกัน แต่นี้ก่อนเปิดตัว ChatGPT Atlas การศึกษา Scamlexity (ชื่อเก่ง) ของพวกเขา "ทดสอบ agentic AI browsers — พวกมันคลิก จ่าย ล้มเหลว" บริษัทวิจัยพัฒนา "PromptFix" ซึ่งเรียกว่า "AI-era take on the ClickFix scam" ออกแบบมาเพื่อซ่อน prompt injection attacks ภายในหน้าจอ CAPTCHA ปลอม ด้วยข้อความมองไม่เห็นฝังใน CAPTCHA ปลอม AI agents ที่ใช้โหมดเล่นเว็บอัตโนมัติสามารถหลอกง่ายให้ซื้อสินค้า ดาวน์โหลดไฟล์ และมากกว่านั้น

เช่นเดียวกัน เมื่อนำอีเมลฟิชชิงเสนอให้ Comet browser ของ Perplexity (หลังขอให้จัดการอีเมลเข้า) มันติดเข้าไปทันที เพิ่มข้อมูลผู้ใช้ในหน้าปลอม แม้แต่ prompt ผู้ใช้ให้กรอกข้อมูลประจำตัว ประกาศว่าหน้าปลอดภัย

เบราว์เซอร์ AI บนออโต้ไพล็อตคลิกสิ่งแย่

AI agents เปราะบางต่อหลอกลุงที่มนุษย์มองไม่เห็น

ปัญหาใหญ่คือ เบราว์เซอร์ AI และ agentic AI browsing แจ้งเราให้ปิดการทำงานที่เราทำปกติ คุณมอบระบบอัตโนมัติตัดสินใจให้คุณ และโดยการนั้น อาจพลาด red flags สำคัญที่เตือนคุณถึงหลอกลวงที่โมเดล AI ไม่เข้าใจ

ตอนนี้ การโจมตีเหล่านี้เกิดขึ้นส่วนใหญ่ในห้องปฏิบัติการความปลอดภัย ไม่ใช่ในธรรมชาติ แต่อันตรายเป็นจริงและเติบโตเร็ว เบราว์เซอร์ AI ไม่ได้แค่มองไซต์ พวกเขายังจัดการล็อกอิน เก็บ cookies และบางครั้งเก็บการเข้าถึงบัญชีที่เชื่อมโยง ดังนั้น พอ텐เชียลการใช้ประโยชน์ผิดวัตถุประสงค์มีมาก และชัดเจนว่าโจรกำลังมองหาช่องโหว่อย่างต่อเนื่อง

ส่วนหนึ่งของปัญหาสำหรับคนทั่วไปคือ เราพูดถึงหลอกลวงที่ตาของมนุษย์ไม่สามารถตรวจจับได้เสมอไป แม้คุณจะใส่ใจหน้าจอ โจมตี prompt injection แบบลับเหล่านี้มักฝังคำสั่งอันตรายไว้ข้างนอกมุมมอง และคุณไม่รู้ว่าอะไรเกิดขึ้นจนหลังจากข้อเท็จจริง ที่คุณถูกหลอก

และที่เบราว์เซอร์ทั่วไปมีการแจ้งเตือนและป๊อปอัปเมื่อบางอย่างดูไม่ถูกต้อง เอเจนต์ AI ที่เล่นเว็บอัตโนมัติอาจมองว่านี่คืออีกความท้าทายที่ต้องเอาชนะ

มีเพียงหนึ่งทางออก

เครื่องมือความปลอดภัยทั่วไปไม่ได้ใช้เสมอไป

ปัญหาความปลอดภัยสมัยใหม่ต้องการโซลูชันสมัยใหม่ และปัญหาที่เกิดจากเบราว์เซอร์ AI พร้อม agentic automated browsing ต้องการโซลูชันใหม่ นั่นเพราะการป้องกันทั่วไปอย่าง Google Safe Browsing หรือ antivirus tools ไม่ได้ออกแบบมาสำหรับ AI คลิกลิงก์แทนคุณ พวกเขากำลังตามทัน แต่นี่ยังเป็นดินแดนไม่รู้จัก

ตัวอย่าง เมื่อนักวิจัยเปรียบเทียบเบราว์เซอร์ AI กับเบราว์เซอร์มาตรฐาน ความแตกต่างชัดเจน Google Safe Browsing บล็อก URL ที่รู้จักว่าแย่ได้ แตเมื่อโจรสปินอัปโดเมนใหม่ — "wellzfargo-security.com" แทน "wellsfargo.com" — เอเจนต์ AI ก็คลิกอยู่ดี พวกเขาไม่ second-guess โดเมนเนม พวกเขาเห็นแค่หน้าล็อกอินธนาคารและปฏิบัติต่อไปอย่างเชื่อฟัง

แย่กว่า prompt injection attacks ไม่พึ่งพา URL เลย พวกเขาอยู่ภายในหน้าเว็บหรือ PDF ที่ถูกต้อง มองไม่เห็นโดยเครื่องมือสแกนทั่วไป

ทางออกจริงเพียงอย่างเดียวในขณะนี้คือ human oversight (การดูแลโดยมนุษย์) นั่นตัดความรู้สึกเวทมนต์ของอัตโนมัติสมบูรณ์ในเบราว์เซอร์ของคุณ แตในความเป็นจริง มันเป็นขั้นตอนสำคัญในการ确保เบราว์เซอร์ของคุณไม่ตกหลอกลวงฟิชชิง ดาวน์โหลดมัลแวร์ หรือแย่กว่า

เบราว์เซอร์ AI อย่าง Opera Neon หยุดพักเป็นระยะเพื่อขอ input จากมนุษย์ ทำให้แน่ใจว่าขั้นตอนถัดไปในแผน OK และงานที่ทำไปแล้วยอมรับได้ นี่คือช่วงเวลาการโต้ตอบมนุษย์เล็กๆ ที่ช่วยลดปัญหาเบราว์เซอร์ AI agentic ตกหลอกลวง ดาวน์โหลดมัลแวร์ หรือแย่กว่า

อรุณใหม่สำหรับโจร

พร้อมช่วงหลอกลวงใหม่ทั้งช่วง

เบราว์เซอร์ AI หมายถึงการเปลี่ยนแปลงว่าโจรต้องหลอกใคร เป้าหมายไม่ใช่คุณอีกต่อไป — มันคือเอเจนต์ของคุณ และตอนนี้เอเจนต์นั้นเชื่อมั่นเกินไป

จากการวิจัยข้างต้นที่พบว่าระบบเหล่านี้ตกหน้าฟิชชิงเกิน 90% และพลาด social engineering cues เกือบทุกอย่างที่คนจะเห็นในไม่กี่วินาที ชัดเจนว่า human oversight จำเป็นอย่างยิ่ง — แม้มักจะเป็นมนุษย์ที่เป็นจุดอ่อน