เผยแพร่เมื่อวันที่ 6 พ.ย. 2568 เวลา 9:00 น. EST
Gavin เป็นหัวหน้ากลุ่มธุรกิจด้านเทคโนโลยีที่อธิบาย ความปลอดภัย อินเทอร์เน็ต สตรีมมิ่ง และความบันเทิง อดีตพิธีกรร่วมใน Really Useful Podcast และเป็นผู้วิจารณ์ผลิตภัณฑ์บ่อยครั้ง เขาได้รับปริญญาด้านการเขียนร่วมสมัยที่ปล้นสะดมจากเนินเขาเดวอน มีประสบการณ์การเขียนระดับมืออาชีพมากกว่าทศวรรษ และผลงานของเขาได้ปรากฏใน How-To Geek, บทวิจารณ์ของผู้เชี่ยวชาญ, บทวิจารณ์ที่เชื่อถือได้, เคล็ดลับเทคโนโลยีออนไลน์ และ Help Desk Geek และอื่นๆ อีกมากมาย Gavin ได้เข้าร่วมงาน CES, IFA, MWC และงานแสดงสินค้าเทคโนโลยีอื่นๆ เพื่อรายงานตรงจากพื้นที่งาน ซึ่งรวบรวมขั้นตอนต่างๆ นับแสนขั้นตอนในกระบวนการนี้ เขารีวิวหูฟัง เอียร์บัด และคีย์บอร์ดแบบกลไกมากกว่าที่เขาอยากจะจำ และเพลิดเพลินกับชา เกมกระดาน และฟุตบอลมากมาย
เมื่อเราพูดถึงความปลอดภัยทางไซเบอร์ เรามักจะจินตนาการถึงแฮกเกอร์ที่ฉลาดกว่าผู้คน แต่จะเกิดอะไรขึ้นเมื่อ AI ทำการคลิกแทน
เบราว์เซอร์ AI รุ่นใหม่ เช่น ChatGPT Atlas, Opera Neon, Perplexity Comet และ Dia ของ The Browser Company ล้วนสัญญาว่าจะท่องเว็บให้คุณ พวกเขาสามารถอ่านเว็บไซต์ ติดตามลิงก์ กรอกแบบฟอร์ม และแม้แต่ทำการซื้อได้ เป็นภาพอนาคตที่น่าประทับใจ จนกว่าคุณจะตระหนักได้ว่า:มนุษย์มักตกหลุมพรางของการหลอกลวง ดังนั้นอะไรจะหยุดตัวแทน AI อัตโนมัติเหล่านี้ไม่ให้ประสบปัญหาเดียวกัน
วิธีที่เบราว์เซอร์และตัวแทน AI ตกสู่การหลอกลวง
การอ่านทั่วกระดานสำหรับเบราว์เซอร์ AI ถือเป็นเรื่องเลวร้าย
เบราว์เซอร์ Atlas ของ OpenAI มีมายาวนานและเปิดตัวพร้อมกับกระแสตอบรับมากมาย แต่นักวิจัยใช้เวลาไม่นานในการติดอยู่ในเบราว์เซอร์เพื่อดูว่า OpenAI ให้ความสำคัญกับความปลอดภัยมากเพียงใด
ผลลัพธ์ไม่ได้รับการส่งเสริม บริษัทรักษาความปลอดภัย LayerX พบปัญหาสำคัญสองประการกับ Atlas ภายในไม่กี่วันหลังจากเปิดตัวเบราว์เซอร์
ช่องโหว่หนึ่งมุ่งเน้นไปที่การแทรกคำสั่งทันที ทำให้สามารถแทรกคำสั่งที่เป็นอันตรายลงในฟีเจอร์หน่วยความจำของ ChatGPT ได้ คำแนะนำดังกล่าวทำให้สามารถรันโค้ดระยะไกลได้ ซึ่งเป็นอันตรายอย่างยิ่ง การวิจัยของ LayerX ยังพบว่า Atlas สามารถหยุดยั้งหน้าเว็บอันตรายที่พบได้เพียง 5.8 เปอร์เซ็นต์ ดังนั้น มากกว่า 90 เปอร์เซ็นต์ของเวลาทั้งหมดจะโต้ตอบกับหน้าฟิชชิ่งแทนที่จะปิดแท็บและดำเนินการต่อ
เครดิต: LayerX เพื่อความเป็นธรรมกับ OpenAI และเบราว์เซอร์ Atlas นั้น เบราว์เซอร์ AI เพียงตัวเดียวที่มีคุณสมบัติ AI แบบตัวแทนจะทำงานได้ไม่ดีในการทดสอบของ LayerX เบราว์เซอร์ Comet AI ยอดนิยมของ Perplexity สามารถหยุดหน้าฟิชชิ่งได้เพียง 7 เปอร์เซ็นต์
จากการเปรียบเทียบ Edge, Chrome และ Dia สามารถหยุดได้มากกว่าอย่างเห็นได้ชัด โดยปฏิเสธการโจมตี 53, 47 และ 46 เปอร์เซ็นต์ ตามลำดับ
ความหลอกลวง
บริษัทวิจัยด้านความปลอดภัย Guardio ประสบปัญหาคล้ายๆ กัน แม้ว่าจะเป็นก่อนที่จะเปิดตัว ChatGPT Atlas ก็ตาม การศึกษา Scamlexit (ชื่อที่ดี) ได้นำ "เบราว์เซอร์ AI ตัวแทนมาทดสอบ - คลิก, จ่ายเงิน, ล้มเหลว" บริษัทวิจัยได้พัฒนา "PromptFix" ซึ่งเรียกว่า "ยุค AI ที่ใช้กลโกง ClickFix" ซึ่งออกแบบมาเพื่อซ่อนการโจมตีแบบฉีดทันทีภายในหน้าจอ CAPTCHA ปลอม ด้วยข้อความที่มองไม่เห็นที่ฝังอยู่ใน CAPTCHA ปลอม เจ้าหน้าที่ AI ที่ใช้โหมดการเรียกดูอัตโนมัติอาจถูกหลอกให้ซื้อสินค้า ดาวน์โหลดไฟล์ และอื่นๆ ได้อย่างง่ายดาย
ในทำนองเดียวกัน เมื่อมันนำเสนออีเมลฟิชชิ่งไปยังเบราว์เซอร์ Comet ของ Perplexity (หลังจากขอให้จัดการอีเมลขาเข้า) มันจะติดอยู่ทันที โดยเพิ่มข้อมูลผู้ใช้ลงในเพจปลอม มันยังแจ้งให้ผู้ใช้ป้อนข้อมูลรับรองเพื่อประกาศว่าเพจปลอดภัย
เบราว์เซอร์ AI บนระบบอัตโนมัติคลิกสิ่งที่ไม่ดี
เจ้าหน้าที่ AI อ่อนแอต่อการหลอกลวงที่มนุษย์ไม่สามารถมองเห็นได้
ปัญหาใหญ่คือเบราว์เซอร์ AI และการเรียกดู AI แบบตัวแทนแจ้งให้เราปิดจากสิ่งที่เราทำตามปกติ คุณกำลังมอบหมายให้ระบบอัตโนมัติทำการตัดสินใจแทนคุณ และการทำเช่นนี้ อาจพลาดธงสีแดงสำคัญที่แจ้งเตือนคุณถึงกลโกงที่โมเดล AI ไม่สามารถเข้าใจได้
ขณะนี้ การโจมตีเหล่านี้ส่วนใหญ่เกิดขึ้นในห้องแล็บรักษาความปลอดภัย ไม่ใช่ในป่า แต่อันตรายนั้นมีจริงและเติบโตอย่างรวดเร็ว เบราว์เซอร์ AI ไม่เพียงแต่ดูไซต์เท่านั้น พวกเขายังจัดการการเข้าสู่ระบบ จัดเก็บคุกกี้ และบางครั้งยังคงสามารถเข้าถึงบัญชีที่เชื่อมต่อกัน ดังนั้น โอกาสที่จะนำไปใช้ในทางที่ผิดนั้นมีอยู่มากมายและเห็นได้ชัดว่าเป็นสิ่งที่ผู้โจมตีต้องการหาประโยชน์อย่างแข็งขัน
ส่วนหนึ่งของปัญหาสำหรับคนทั่วไปก็คือ เรากำลังพูดถึงกลโกงที่สายตามนุษย์ไม่สามารถตรวจจับได้เสมอไป แม้ว่าคุณจะให้ความสนใจกับหน้าจอก็ตาม การโจมตีแบบฉีดพร้อมท์ที่เป็นความลับเหล่านี้มักจะฝังคำสั่งที่เป็นอันตรายไว้โดยไม่ให้เห็น และคุณจะไม่รู้ว่าเกิดอะไรขึ้นจนกระทั่งคุณถูกหลอกลวงในที่สุด
และในขณะที่เบราว์เซอร์แบบเดิมมีการแจ้งเตือนและป๊อปอัปเพื่อเตือนเมื่อมีบางอย่างไม่ถูกต้อง เจ้าหน้าที่ AI ที่เรียกดูโดยอัตโนมัติอาจมองว่านี่เป็นความท้าทายอีกอย่างหนึ่งที่ต้องเอาชนะ
มีเพียงวิธีเดียวเท่านั้น
เครื่องมือรักษาความปลอดภัยปกติไม่ได้มีประโยชน์เสมอไป
ปัญหาด้านความปลอดภัยสมัยใหม่ต้องการโซลูชันที่ทันสมัย และปัญหาที่เกิดจากเบราว์เซอร์ AI ที่มีการเรียกดูเอเจนต์อัตโนมัติจำเป็นต้องมีโซลูชันใหม่ นั่นเป็นเพราะการป้องกันตามปกติ เช่น Google Safe Browsing หรือเครื่องมือป้องกันไวรัส ไม่ได้ออกแบบมาสำหรับลิงก์การคลิกของ AI ในนามของคุณ พวกเขากำลังตามทันอย่างไม่ต้องสงสัย แต่ก็ยังเป็นดินแดนที่ยังไม่มีใครรู้จัก
ตัวอย่างเช่น เมื่อนักวิจัยเปรียบเทียบเบราว์เซอร์ AI กับเบราว์เซอร์มาตรฐาน ความแตกต่างนั้นชัดเจนมาก Safe Browsing ของ Google สามารถบล็อก URL ที่รู้จักที่ไม่ถูกต้อง แต่เมื่อนักต้มตุ๋นสร้างโดเมนใหม่ “wellzfargo-security.com” แทนที่จะเป็น “wellsfargo.com” เจ้าหน้าที่ AI ก็คลิกอยู่ดี พวกเขาไม่เดาชื่อโดเมนเป็นครั้งที่สอง พวกเขาเห็นว่าหน้าดังกล่าวดูเหมือนการเข้าสู่ระบบของธนาคารและดำเนินการต่อตามหน้าที่
ที่แย่กว่านั้นคือการโจมตีแบบฉีดทันทีไม่ต้องอาศัย URL เลย พวกมันอยู่ภายในหน้าเพจหรือ PDF ที่ถูกต้อง ซึ่งเครื่องมือสแกนแบบเดิมๆ จะมองไม่เห็น
ทางออกที่แท้จริงเพียงอย่างเดียวในปัจจุบันคือการกำกับดูแลของมนุษย์ นั่นทำให้ความรู้สึกมหัศจรรย์ของระบบอัตโนมัติที่สมบูรณ์ในเบราว์เซอร์ของคุณหายไป แต่ในความเป็นจริง มันเป็นขั้นตอนสำคัญในการทำให้แน่ใจว่าเบราว์เซอร์ของคุณไม่ตกเป็นเหยื่อฟิชชิ่งหลอกลวง
เบราว์เซอร์ AI เช่น Opera's Neon จะหยุดชั่วคราวเป็นประจำเพื่อขอข้อมูลจากมนุษย์ เพื่อให้แน่ใจว่าขั้นตอนต่อไปในแผนนั้นโอเค และงานที่เสร็จสมบูรณ์จนถึงขณะนี้เป็นที่ยอมรับได้ มันเป็นช่วงเวลาเล็กๆ ของการโต้ตอบของมนุษย์ที่สามารถช่วยลดปัญหาของเบราว์เซอร์ AI เอเจนต์ที่ตกเป็นเหยื่อการหลอกลวง การดาวน์โหลดมัลแวร์ หรือแย่กว่านั้นได้
ถือเป็นรุ่งอรุณใหม่สำหรับนักหลอกลวง
ด้วยการหลอกลวงรูปแบบใหม่ที่จะใช้งานได้
เบราว์เซอร์ AI ทำให้เกิดการเปลี่ยนแปลงว่าใครที่นักต้มตุ๋นจำเป็นต้องหลอก เป้าหมายไม่ใช่คุณอีกต่อไป แต่คือตัวแทนของคุณ และตอนนี้ เจ้าหน้าที่คนนั้นก็ไว้วางใจมากเกินไป
จากการวิจัยที่มีรายละเอียดข้างต้นพบว่าระบบเหล่านี้ตกเป็นเหยื่อของหน้าฟิชชิ่งมากกว่า 90% และพลาดสัญญาณวิศวกรรมสังคมเกือบทั้งหมดที่บุคคลจะมองเห็นได้ภายในไม่กี่วินาที เป็นที่ชัดเจนว่าการควบคุมดูแลของมนุษย์มีความสำคัญอย่างยิ่ง แม้ว่าบ่อยครั้งที่มนุษย์เป็นจุดอ่อนก็ตาม
