การนำ AI มาช่วยทำงานกลายเป็นเรื่องปกติในยุคปัจจุบัน แม้ในบางครั้งจะมีการ Generate ข้อมูลที่ไม่ถูกต้องไปบ้าง แต่ก็ยังมีความหน้าเชื่อถือในบางเรื่องอยู่ดี จึงทำให้ผู้ใช้งานอาจตกเป็นเหยื่อกลุ่มแฮกเกอร์โดยไม่รู้ตัว ซึ่งนักวิจัยด้านความปลอดภัยไซเบอร์จาก Mozilla เปิดเผยว่าพบช่องโหว่ในฟีเจอร์ Summarize This E-Mail ของ Google Gemini บน Gmail ที่ซ่อนคำสั่งอันตรายไว้อย่างแนบเนียน

ลักษณะการโจมตี

การโจมตีครั้งนี้ใช้เทคนิค HTML/CSS เช่น การใช้ฟอนต์ขนาด 0 หรือ การใช้ข้อความสีขาวให้กลืนไปกับพื้นหลัง เมื่อ Gemini สรุปอีเมล ระบบจะอ่านข้อความที่ถูกซ่อนไว้ และแสดงผลออกมาเป็นสรุปที่อาจเต็มไปด้วยคำเตือนปลอม เช่น บัญชีถูกแฮก หรือแนะนำให้โทรหาหมายเลขที่เป็นของผู้โจมตี ซึ่งความอันตรายของช่องโหว่นี้คือไม่มีลิงก์หรือไฟล์แนบจึงทำให้ระบบตรวจจับทั่วไปมองข้ามและไม่ถูกจัดว่าเป็นคำสั่งอันตราย
โดยเมื่อระบบประมวลผลข้อความที่ซ่อนไว้จะทำตามคำสั่งทันที จึงทำให้มีความเสี่ยงสูงต่อการโจมตีแบบ Social Engineering โดยเฉพาะในองค์กรหรือผู้ใช้งานทั่วไปที่ใช้ฟีเจอร์สรุปอีเมลนี้

สรุป

ถึงแม้ Google จะเปิดเผยว่ายังไม่พบเหตุการณ์การโจมตีลักษณะดังกล่าว แต่ได้ดำเนินการป้องกันปรับระบบด้วยการใช้ Red-teaming และตัวกรองเพิ่มเติมเพื่อทดสอบความสามารถของ AI ในการต้านทานการโจมตีแบบ Prompt Injection พร้อมทั้งเริ่มนำมาตรการเสริมความปลอดภัยเข้าสู่ระบบอย่างจริงจัง แต่อย่างไรก็ตามผู้ใช้งานควรเสริมมาตรการป้องกัน ดังนี้

แนวทางการป้องกัน

1. ผู้ใช้งานควรตรวจสอบหรือปิดกั้นข้อความที่ถูกซ่อน บล็อกเนื้อหาที่ถูกซ่อนด้วย CSS/HTML ก่อนสรุปผลของ Gemini
2. สร้างตัวกรองหลังประมวลผล (Post-processing) เพื่อตรวจจับข้อความเร่งด่วน, เบอร์โทรศัพท์, หรือ URL ที่ไม่ควรปรากฏในสรุปของ Gemini
3. ให้ความรู้ผู้ใช้งาน โดยเฉพาะพนักงานในองค์กรว่าผลสรุปจาก Gemini ไม่ควรใช้ตัดสินใจด้านความปลอดภัย โดยไม่มีการตรวจสอบซ้ำ

ที่มา
activemedia, hostatom