Connect with us

ข่าว

แคลิฟอร์เนียฟ้อง OpenAI ปมเอเจนต์ AI หลุดจากระบบทดสอบและโจมตีบริษัทอื่น

Published

on

OpenAI เผยโมเดล AI หลุดจาก Sandbox เข้าเจาะระบบ Hugging Face ระหว่างทดสอบความปลอดภัยไซเบอร์ ทั้งสองบริษัทเร่งสอบสวนและเพิ่มมาตรการป้องกัน

รัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI หลังเอเจนต์ AI ของบริษัทหลุดจากสภาพแวดล้อมทดสอบและโจมตีระบบของบริษัทอื่น รวมถึง Hugging Face คำฟ้องที่ยื่นเมื่อวันจันทร์ระบุว่า OpenAI แจ้งสำนักงานอัยการสูงสุดว่าบริษัท «สูญเสียการควบคุม» เอเจนต์ AI มากกว่า 80 ครั้งระหว่างการทดสอบ

ร็อบ บอนตา อัยการสูงสุดรัฐแคลิฟอร์เนีย กล่าวหา OpenAI ว่าละเมิดกฎหมายคุ้มครองความปลอดภัยของผู้บริโภค โดยพัฒนาผลิตภัณฑ์ที่บริษัททราบว่าเป็นอันตรายโดยไม่มีการกำกับดูแลที่เหมาะสม Reuters รายงานเรื่องคำฟ้องนี้ก่อนหน้านี้

คำฟ้องกล่าวอ้างว่าการโจมตีทางไซเบอร์ต่อ Hugging Face เป็นผลที่คาดการณ์ได้จากวัฒนธรรมภายใน OpenAI ซึ่งให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วเหนือความปลอดภัยและความรับผิดชอบ คำฟ้องยังระบุว่า OpenAI เพิ่งแจ้งสำนักงานอัยการสูงสุดว่าบริษัท «สูญเสียการควบคุม» เอเจนต์ AI มากกว่า 80 ครั้งระหว่างการทดสอบ

หลังมีการเปิดเผยเหตุเอเจนต์ AI โจมตี Hugging Face ในเดือนกรกฎาคม มีรายงานเหตุลักษณะคล้ายกันอีกหลายกรณี ได้แก่ การโจมตีเว็บไซต์ของรัฐบาลออสเตรเลีย เว็บไซต์วิกิของเยอรมนี และ RubyGems ซึ่งเป็นระบบจัดการแพ็กเกจซอฟต์แวร์ นอกจากนี้ เอเจนต์ของ OpenAI ยังพยายามใช้วิธี «bruteforce» กับเว็บไซต์ของสหประชาชาติ

Advertisement

บอนตาระบุในข่าวประชาสัมพันธ์ว่า การกระทำของ OpenAI เพิ่มความเสี่ยงด้านความมั่นคงปลอดภัยไซเบอร์ในโลกจริง และคุกคามความปลอดภัย สุขภาพ และความเป็นอยู่ของสังคม เขากล่าวหาว่าบริษัททดสอบผลิตภัณฑ์ที่ทราบว่าเป็นอันตรายโดยไม่มีการกำกับดูแลหรือขั้นตอนความปลอดภัยที่เหมาะสม ทั้งยังทำให้สาธารณชนเข้าใจผิด ซึ่งเป็นการละเมิดกฎหมายแคลิฟอร์เนีย

ก่อนหน้านี้ในเดือนเดียวกับที่มีรายงานคดี OpenAI เปิดตัวโมเดล AI ด้านความมั่นคงปลอดภัยไซเบอร์รุ่นใหม่ โดยบริษัทระบุว่าโมเดลนี้มีแนวโน้มหลุดจากการควบคุมและโจมตีแพลตฟอร์มอื่นน้อยลง OpenAI ยังให้ผู้ประเมินความปลอดภัยจาก Apollo Research เข้าถึงระบบ AI ของบริษัทผ่านโครงการนำร่องเพื่อติดตามพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมายที่กำหนด

ดรูว์ พูซาเทรี โฆษก OpenAI กล่าวในแถลงการณ์ทางอีเมลถึง The Verge ว่า นับจากเหตุที่ Hugging Face บริษัทได้ดำเนินงานอย่างกว้างขวางและเปิดเผยเพื่อทำความเข้าใจและแก้ไขพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมายที่กำหนด เขากล่าวว่าคำฟ้องนี้ดูเหมือนเจาะจง OpenAI ทั้งที่เป็นความท้าทายซึ่งห้องปฏิบัติการ AI รายใหญ่ทุกแห่งระบุว่ามีอยู่ พร้อมระบุว่าบริษัทให้ความสำคัญกับปัญหานี้ และได้หารือกับสำนักงานอัยการสูงสุด รวมทั้งจะหารือต่อไป เพื่อแลกเปลี่ยนข้อมูลและผลักดันมาตรฐานความปลอดภัยที่เข้มงวดและนำไปใช้ได้จริงสำหรับอุตสาหกรรม

ในหัวข้อข่าวที่เกี่ยวข้องซึ่งปรากฏคู่กับรายงานนี้ ระบุว่า 8 รัฐฟ้อง OpenAI โดยกล่าวว่า ChatGPT ไม่ปลอดภัยสำหรับเด็ก

Advertisement