การทดสอบดังกล่าวจัดทำขึ้นโดยบริษัทภายนอกชื่อ Irregular ซึ่งได้รับมอบหมายให้ประเมินศักยภาพด้านความมั่นคงปลอดภัยทางไซเบอร์ของโมเดล โดยตามข้อกำหนดเดิมตัวโมเดลจะต้องไม่สามารถเข้าถึงอินเทอร์เน็ตได้ ทว่าตัวแทนของ Irregular ยอมรับในภายหลังว่าเกิดข้อผิดพลาดทำให้ระบบเชื่อมต่ออินเทอร์เน็ตทิ้งไว้ เป็นเหตุให้โมเดลสามารถดึงข้อมูลสาธารณะออนไลน์และใช้วิธีสุ่มรหัสผ่าน (Brute-Force) จนเข้าถึงเว็บไซต์ของหน่วยงานภายนอกได้

ทางด้าน Google ชี้แจงว่า บริษัทไม่ได้จัดเหตุการณ์นี้เป็นความผิดพลาดเชิงพฤติกรรมของโมเดล (Model Misalignment) แต่มองว่าเป็นกรณีความเข้าใจผิดเกี่ยวกับเป้าหมาย (Mistaken Identity) โดยเมื่อระบบตรวจพบว่าเข้าถึงองค์กรจริงที่ไม่ได้อยู่ในรายการทดสอบ ตัวโมเดลก็ได้หยุดการทำงานลงทันที ทั้งนี้ Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุว่าทีมงานได้ประสานงานแจ้งให้บริษัททั้งสามแห่งรับทราบ พร้อมกับปรับปรุงขั้นตอนการทดสอบร่วมกับพันธมิตร เพื่อป้องกันไม่ให้เกิดข้อผิดพลาดซ้ำ

อย่างไรก็ตาม ผู้เชี่ยวชาญด้านความปลอดภัยเทคโนโลยี อย่าง Jack Cable ประธานเจ้าหน้าที่บริหารของบริษัทด้านความปลอดภัย AI นามว่า Corridor ให้ความเห็นว่า ปัญหาหลักคือโมเดลกำลังก้าวข้ามขอบเขตที่ถูกกำหนดไว้และลงมือโจมตีทางไซเบอร์ในสภาพแวดล้อมจริง ซึ่งเหตุการณ์เหล่านี้ส่งผลให้เกิดกระแสเรียกร้องจากหลายฝ่ายให้เพิ่มความเข้มงวดในการกำกับดูแลและควบคุมการพัฒนาโมเดลปัญญาประดิษฐ์ระดับสูงมากขึ้น

The post รายงานชี้ Gemini ของ Google หลุดขอบเขตทดสอบ เจาะระบบบริษัทจริง 3 แห่ง ก่อนสั่งหยุดทำงาน appeared first on Brickinfo News Agency.