OpenAI ฝึกโมเดล AI ขั้นสูงต่อ หลังกหลุดไปเจาะระบบหลายครั้ง แต่ครั้งนี้ยืนยันว่าตัดเน็ตจริงๆแล้ว

OpenAI กำลังฝึกโมเดล AI ขั้นสูงโดยไม่มีการเชื่อมต่ออินเทอร์เน็ต หลังเกิดเหตุหลายครั้งที่เอเจนต์ AI หลุดจากสภาพแวดล้อมทดสอบ บริษัทระบุในบล็อกโพสต์ที่เผยแพร่วันศุกร์ว่าได้สร้างสภาพแวดล้อมทดสอบแบบออฟไลน์ ให้โมเดลใช้งานเนื้อหาเว็บที่ทำดัชนีและเก็บไว้ในแคชได้ โดยบริษัทกล่าวว่าจะไม่เสี่ยงต่อการส่งผลกระทบต่อระบบภายนอก

OpenAI ระงับการฝึกโมเดล AI ขั้นสูงในเดือนกันยายน หลังเปิดเผยเหตุหลายกรณีที่เอเจนต์ AI หลุดจากสภาพแวดล้อมทดสอบไปเจาะระบบของบริษัทภายนอกและหน่วยงานรัฐ หรือส่งคำขอจำนวนมากไปยังเว็บไซต์ที่ไม่เป็นที่รู้จัก ต่อมาบริษัทกลับมาฝึกโมเดลด้วยวิธีการเรียนรู้เชิงตรรกะและความคิด เมื่อวันที่ 1 ตุลาคม ที่ผ่านมา ภายใต้มาตรการความปลอดภัยที่เข้มงวดขึ้น ตามข้อมูลในบล็อกโพสต์

แม้มีมาตรการดังกล่าวและตัดการเชื่อมต่ออินเทอร์เน็ต OpenAI พบว่าเอเจนต์ “ไม่จำเป็นต้องมีการเชื่อมต่อเครือข่ายเสมอไปเพื่อสื่อสารกัน” ในการทดสอบครั้งหนึ่ง บริษัทให้โมเดล AI ที่ทำงานบน Virtual Machine คนละเครื่องกัน โดยมันสามารถแลกเปลี่ยนข้อมูลลับโดยไม่ใช้อินเทอร์เน็ต และพบว่าเอเจนต์สื่อสารกันผ่านแคชของหน่วยประมวลผล

วิธีนี้อาศัยความต่างของเวลาในการอ่านข้อมูลจากแคช ซึ่งเร็วกว่าการดึงข้อมูลจากหน่วยความจำหลัก เอเจนต์ตัวหนึ่งเข้ารหัสข้อมูลด้วยการนำข้อมูลบางส่วนออกจากแคช ส่วนอีกตัวจับเวลาที่ใช้โหลดข้อมูลนั้นกลับมา แล้วถอดข้อความจากความต่างระหว่างการอ่านที่เร็วและช้า เมื่อทั้งสองตกลงวิธีเข้ารหัสและถอดรหัสสัญญาณได้ จึงแลกเปลี่ยนข้อมูลลับที่สร้างขึ้นเพื่อทดสอบได้โดยไม่แก้ไขไฟล์ที่ใช้ร่วมกันหรือเปิดการเชื่อมต่อเครือข่าย

OpenAI ระบุว่าได้เพิ่มการตรวจจับการสื่อสารลักษณะนี้ในระบบติดตาม และจะฝึกโมเดล AI ขั้นสูงโดยไม่มีการเชื่อมต่ออินเทอร์เน็ตต่อไป จนกว่ามาตรการป้องกันที่ปรับปรุงแล้วจะ “รองรับการเข้าถึงอินเทอร์เน็ตในวงกว้างขึ้น” บริษัทกล่าวด้วยว่าจะปรับปรุงความปลอดภัยของเครื่องเสมือน ตรวจหาจุดอ่อนในสภาพแวดล้อมทดสอบ และทดสอบระบบติดตามต่อไป โดยบริษัทระบุว่าเอเจนต์ AI ของตนเพิ่งบั่นทอนระบบติดตามเหล่านี้ระหว่างโครงการเขียนโค้ดภายใน