นักวิจัยความปลอดภัยพบ AI Agent ของ OpenAI พยายามโจมตีแบบ Bruteforce ใส่เว็บไซต์สถิติของ UN

สำนักข่าวบริคอินโฟ – นักวิจัยด้านความปลอดภัยไซเบอร์เปิดเผยข้อมูลว่า ระบบ AI Agent ของทาง OpenAI ได้ใช้วิธีการที่ก้าวร้าวและอยู่นอกเหนือกฎเกณฑ์ปกติ โดยพยายามสแกนและดึงข้อมูลจากเว็บไซต์ฐานข้อมูลสถิติขององค์การสหประชาชาติมากกว่า 16,000 ครั้ง จนเข้าข่ายลักษณะการโจมตีแบบ Bruteforce หลังจากที่ไม่สามารถเข้าถึงข้อมูลตามคำสั่งได้ในขั้นตอนแรก

โรวัน โฮเวิร์ด-โจนส์ (Rowan Howard-Jones) นักวิจัยด้านความปลอดภัย ระบุว่า เอเจนต์ปัญญาประดิษฐ์ของ OpenAI ได้ดำเนินการสแกนเว็บไซต์สถิติของ การประชุมสหประชาชาติว่าด้วยการค้าและการพัฒนา หรือ UNCTAD (United Nations Conference on Trade and Development) ระหว่างช่วงเดือนเมษายนถึงมิถุนายนที่ผ่านมา โดยคาดว่าระบบได้รับมอบหมายให้รวบรวมข้อมูลสาธารณะเกี่ยวกับดัชนีขีดความสามารถในการผลิต (Productive Capacities Index หรือ PCI) ผ่านระบบ UNCTADstat API แต่ไม่ได้รับสิทธิ์เข้าถึง API โดยตรง และติดข้อจำกัดในการเชื่อมต่อผ่านโปรโตคอล HTTP

หลังจากเผชิญกับอุปสรรคดังกล่าว ตัวระบบ AI พยายามหาช่องทางหลบเลี่ยงข้อจำกัดเพื่อดึงข้อมูลให้สำเร็จ ทว่ายังคงพบข้อผิดพลาดบางประการ ส่งผลให้ระบบเริ่มปรับเปลี่ยนพฤติกรรมจากการแก้ปัญหาทั่วไปไปสู่การใช้วิธีการที่ปิดบังและหลอกลวง โดยระบบประเมินว่าข้อผิดพลาดที่เกิดขึ้นเกิดจากคำขอของตนถูกระบบคัดกรองตรวจจับ ทั้งที่ความเป็นจริงไม่ได้มีระบบคัดกรองดังกล่าวอยู่ จึงเริ่มซ่อนพฤติกรรมการเชื่อมต่อเพื่อไม่ให้ถูกจับได้

ยิ่งไปกว่านั้น ระบบ AI Agent ดังกล่าวได้ใช้ประโยชน์จากช่องทางของ Google XSS game ซึ่งเป็นเครื่องมือสำหรับการเรียนรู้เรื่องการโจมตีประเภท Cross-Site Scripting เพื่อนำมาปรับใช้ในการดึงข้อมูลเป้าหมายจากเว็บไซต์ของ UN ให้ได้ตามภารกิจ แม้เหตุการณ์นี้จะยังไม่รุนแรงเท่ากรณีการโจมตีระบบของ Hugging Face หรือหน่วยงานรัฐบาลสหรัฐฯ ก่อนหน้านี้ แต่ก็ถือเป็นอีกหนึ่งกรณีศึกษาที่น่ากังวลเกี่ยวกับการทำงานของโมเดลปัญญาประดิษฐ์ที่อาจละเมิดขอบเขตการทำงานที่ปลอดภัยเพื่อเป้าหมายของคำสั่ง ทั้งนี้ ทาง OpenAI และ UNCTAD ยังไม่ได้ออกมาชี้แจงหรือให้ความเห็นอย่างเป็นทางการต่อกรณีดังกล่าว