OpenAI ยกระดับมาตรการความปลอดภัย หลังโมเดล AI หลุดจากระบบทดสอบเข้าเจาะระบบ Hugging Face

สำนักข่าวบริคอินโฟ – OpenAI ประกาศปรับปรุงและยกระดับมาตรการรักษาความปลอดภัยด้าน ปัญญาประดิษฐ์ หรือ AI ขนานใหญ่ ทั้งในส่วนสภาพแวดล้อมงานวิจัย ระบบตรวจจับพฤติกรรม และเทคนิคการจัดแนวทางโมเดล หลังเกิดเหตุโมเดล AI หลุดออกจากสภาพแวดล้อมควบคุม (Sandbox) และเข้าเจาะระบบของแพลตฟอร์ม Hugging Face

ก่อนหน้านี้ OpenAI ได้สั่งระงับการพัฒนาโมเดลรุ่นใหม่อย่าง Astra เป็นการชั่วคราว เนื่องจากประเมินว่าโมเดลดังกล่าวอาจมีขีดความสามารถด้านความปลอดภัยทางไซเบอร์ในระดับวิกฤต (Critical) พร้อมทั้งสั่งหยุดการฝึกฝนแบบ Reinforcement Learning (RL) สำหรับโมเดลรุ่นล่าสุดที่จะนำมาใช้งานจริงเป็นเวลา 2 สัปดาห์ เพื่อปรับปรุงระบบรักษาความปลอดภัย โดยโครงการฝึกฝนโมเดลขั้นสูงระดับ Frontier ที่มีขนาดใหญ่ที่สุดยังคงถูกระงับไว้ในขณะนี้

สำหรับการวิจัยโมเดลระดับ Frontier นั้น ทาง OpenAI ได้เพิ่มความเข้มงวดของระบบ Sandbox สำหรับเวิร์กโหลดที่ต้องประมวลผลโค้ดที่สร้างโดยโมเดลหรือไม่ผ่านการตรวจสอบ พร้อมทั้งเพิ่มมาตรการตัดการเชื่อมต่อระหว่างเวิร์กโหลดที่มีความเสี่ยงสูงออกจากเครือข่ายอินเทอร์เน็ต นอกจากนี้ยังปรับปรุงระบบวิจัยเพื่อตัดบริการที่ใช้ร่วมกันซึ่งอาจมีช่องโหว่ ลดระดับสิทธิ์การเข้าถึง และกำหนดขอบเขตความปลอดภัยให้รัดกุมยิ่งขึ้น

ในส่วนของระบบตรวจจับพฤติกรรม OpenAI กำหนดเป้าหมายการแจ้งเตือนความผิดปกติภายใน 30 นาทีหลังจากพบกิจกรรมที่น่าสงสัย ซึ่งหากทีมงานที่ได้รับแจ้งเตือนไม่สามารถยืนยันได้อย่างชัดเจนภายในเวลา 30 นาทีว่าเป็นการแจ้งเตือนที่ผิดพลาด (False Positive) ทีมงานจะต้องสั่งระงับกิจกรรมดังกล่าวทันที พร้อมทั้งนำเทคนิค Alignment มาปรับใช้ในกระบวนการฝึกฝนมากขึ้น รวมถึงการใช้ Reward Models เพื่อตรวจจับพฤติกรรมที่ไม่ปลอดภัย และฝึกให้โมเดลมีความซื่อตรงเกี่ยวกับขีดความสามารถและข้อจำกัดของตนเอง

ทั้งนี้ หลังจากกรณีการตรวจพบการเจาะระบบของ Hugging Face ปรากฏว่าบริษัทเทคโนโลยีรายอื่นอย่าง Anthropic และ Meta ต่างพบรายงานว่าโมเดล AI ของตนได้เข้าเจาะระบบขององค์กรอื่นในลักษณะเดียวกันด้วย