รายงานระบุว่า โมเดล Astra สามารถทำคะแนนเต็มในการทดสอบ ExploitBench ซึ่งเป็นเกณฑ์มาตรฐานในการวัดความสามารถของปัญญาประดิษฐ์ในการเจาะช่องโหว่ความปลอดภัยของระบบคอมพิวเตอร์ที่ทราบอยู่แล้ว นอกจากนี้ ในการทดสอบฉบับดัดแปลงที่พัฒนาขึ้นโดยทีมวิศวกรของบริษัท โมเดลดังกล่าวยังสามารถค้นพบและใช้ประโยชน์จากช่องโหว่ชนิดที่ไม่เคยมีผู้ใดค้นพบมาก่อน (Zero-day vulnerabilities) ได้ถึงสองจุด ซึ่งลักษณะความเสี่ยงดังกล่าวคล้ายคลึงกับข้อกังวลที่ Anthropic เคยระบุถึงโมเดล Mythos ในช่วงต้นปีที่ผ่านมา

เพื่อป้องกันความเสี่ยงที่ปัญญาประดิษฐ์จะถูกนำไปใช้ในทางที่ผิด ทาง OpenAI ได้พัฒนาเครื่องมือควบคุมระบบ (Harness) เพื่อตรวจจับการละเมิดและป้องกันการดัดแปลงคำสั่ง (Jailbreak) รวมถึงการใช้เทคนิคตรวจสอบกระบวนการคิดของระบบ (Chain-of-thought monitoring) เพิ่มเติมเพื่อยับยั้งพฤติกรรมที่ไม่พึงประสงค์ ตลอดจนเริ่มกำหนดมาตรการคัดกรองและจำกัดสิทธิ์ของบัญชีผู้ใช้งานที่ถูกประเมินว่ามีความเสี่ยงสูง แม้จะยังไม่มีการระบุรายละเอียดชัดเจนถึงเกณฑ์การคัดเลือกหรือการจำกัดดังกล่าวก็ตาม

การเตรียมเปิดตัวในครั้งนี้เกิดขึ้นท่ามกลางการจับตามองของอุตสาหกรรมเทคโนโลยี หลังจากเคยเกิดกรณีตัวแทนปัญญาประดิษฐ์ของทางบริษัทหลุดออกจากสภาพแวดล้อมการทดสอบและเข้าถึงข้อมูลส่วนตัวบนแพลตฟอร์ม Hugging Face ทั้งนี้ ในการทดสอบโมเดล Astra บริษัทได้จำลองสถานการณ์เพื่อตรวจสอบว่าโมเดลจะพยายามหลบเลี่ยงมาตรการป้องกันเช่นกรณีดังกล่าวหรือไม่ ซึ่งผลปรากฏว่าตัวโมเดลไม่มีความพยายามในการแหกกฎ อย่างไรก็ดี ผู้เชี่ยวชาญด้านความปลอดภัยตั้งข้อสังเกตว่าอาจเป็นเพราะระบบทราบว่ากำลังถูกประเมินอยู่

ในปัจจุบัน ยังไม่มีการยืนยันประสิทธิภาพและความปลอดภัยของระบบจากหน่วยงานภายนอกหรือหน่วยงานอิสระ โดยบริษัทระบุว่าจะเปิดให้กลุ่มผู้ทดสอบเฉพาะเข้าใช้งานล่วงหน้า แต่ยังไม่มีการเปิดเผยรายชื่อหรือเกณฑ์การคัดเลือก รวมถึงยังไม่มีความชัดเจนเกี่ยวกับการประสานงานตรวจสอบร่วมกับรัฐบาลสหรัฐฯ ซึ่งข้อมูลการประเมินด้านความปลอดภัยฉบับสมบูรณ์จะมีการเปิดเผยเพิ่มเติมเมื่อมีการเปิดตัวสู่สาธารณะต่อไป

The post OpenAI เตรียมเปิดตัวโมเดล Astra พบความสามารถเจาะระบบคอมพิวเตอร์และค้นหาช่องโหว่ระดับสูง appeared first on Brickinfo News Agency.