นายคริส ไรท์ (Chris Wright) ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และรองประธานบริหารฝ่ายวิศวกรรมระดับโลกของ Red Hat ชี้แจงว่า ระบบ AI Agent ประกอบด้วยหลายเลเยอร์ ทั้งส่วนโมเดลหลัก (Core Model), ส่วนเชื่อมต่อสั่งการ (Agentic Harness), พื้นที่จำลองการทำงาน (Sandbox), ระบบควบคุมความปลอดภัยขณะทำงาน (Runtime Guardrails) ไปจนถึงโครงสร้างพื้นฐาน ซึ่งองค์ประกอบส่วนใหญ่ล้วนยึดโยงอยู่กับวิศวกรรมซอฟต์แวร์ การจำกัดโมเดลไว้ในระบบปิดที่เป็นกรรมสิทธิ์จึงไม่ใช่การแก้ปัญหาด้านความปลอดภัยอย่างแท้จริง แต่เป็นการย้ายจุดความเสี่ยง เช่นเดียวกับบทเรียนในอดีตที่ระบบปฏิบัติการ Linux ได้พิสูจน์ให้เห็นว่าความโปร่งใสและการร่วมมือกันทำให้ระบบมีความแข็งแกร่งและปลอดภัยยิ่งขึ้น

ในมิติด้านการรักษาความปลอดภัยทางไซเบอร์ การวิจัยและรับมือภัยคุกคามจำเป็นต้องอาศัยโมเดลแบบเปิด เพื่อให้นักวิจัยและทีมความปลอดภัยสามารถตรวจสอบช่องโหว่ซ่อนเร้นที่อาจแฝงอยู่ในระบบปิดได้ การพึ่งพาผู้ให้บริการระบบปิดเพียงไม่กี่รายอาจนำไปสู่ความเสี่ยงเชิงระบบ ซึ่งจากกรณีเหตุการณ์ความปลอดภัยของ Hugging Face ที่ผ่านมา การบรรเทาความเสียหายและการปกป้องระบบจำเป็นต้องใช้โมเดลแบบ Open Weights เข้ามามีบทบาทสำคัญในการคลี่คลายปัญหา

นอกจากนี้ Red Hat ในฐานะสมาชิกของกลุ่มพันธมิตรความปลอดภัย AI แบบเปิด (Open Secure AI Alliance) ได้ร่วมมือกับ NVIDIA, Linux Foundation และพันธมิตรรายอื่น ๆ จัดทำข้อเสนอ Request for Comments (RFC) สำหรับกลุ่มทำงาน Shared AI Findings Exchange (SAFE) เพื่อสร้างกรอบการทำงานกลางในการรวบรวม วิเคราะห์ และแลกเปลี่ยนข้อมูลข้อผิดพลาดหรือช่องโหว่จากการใช้งาน AI โดยไม่เปิดเผยตัวตน ซึ่งจะช่วยให้ภาคอุตสาหกรรมสามารถร่วมมือกันพัฒนาเครื่องมือป้องกันภัยคุกคามได้อย่างรวดเร็วและเป็นระบบ

การพัฒนาเทคโนโลยี AI ในปัจจุบันจำเป็นต้องอาศัยการผสมผสานระหว่างโมเดลและเครื่องมือแบบโอเพนซอร์สเพื่อกำกับดูแลการทำงานของระบบให้ปลอดภัย โดยเอกสารข้อเสนอ SAFE RFC ได้รับการเผยแพร่ผ่านแพลตฟอร์ม GitHub เพื่อให้ชุมชนนักพัฒนาและผู้สนใจสามารถเข้าถึง ตรวจสอบ และร่วมแสดงความคิดเห็นในการพัฒนาระบบนิเวศความปลอดภัยต่อไป

The post เร้ดแฮทชี้ความปลอดภัย AI ต้องมองภาพรวมทั้งระบบซอฟต์แวร์ ชูโมเดลเปิดช่วยรับมือภัยไซเบอร์ appeared first on Brickinfo News Agency.