ไมโครซอฟท์เตือน AI Agent เสี่ยงเป็นภัยคุกคามไซเบอร์ ชี้! โมเดลระดับแถวหน้า “ไม่น่าไว้วางใจ”

สำนักข่าวบริคอินโฟ – ไมโครซอฟท์ (Microsoft) ประกาศเปิดตัวฟังก์ชันด้านความปลอดภัยชุดใหม่ เพื่อมุ่งเน้นการปกป้องระบบขององค์กรธุรกิจจากความเสี่ยงของ AI Agent หลังผู้บริหารระดับสูงออกมาส่งสัญญาณเตือนว่า โมเดลปัญญาประดิษฐ์ระดับแนวหน้าไม่สามารถไว้วางใจได้อย่างสมบูรณ์ และอาจแปรสภาพเป็นภัยคุกคามจากภายในองค์กร (Insider Threat) เนื่องจากได้รับสิทธิ์เข้าถึงข้อมูลสำคัญเชิงลึก

การเปิดตัวครั้งนี้นำโดยฟีเจอร์ Guardian Agents ภายใต้โครงการ Project Perception ที่พัฒนาขึ้นเพื่อทำหน้าที่ตรวจสอบและกำกับดูแลการทำงานของ AI Agent ในองค์กรโดยเฉพาะ จากเดิมที่ระบบความปลอดภัยมุ่งเน้นการป้องกันการโจมตีทางไซเบอร์จากภายนอก แต่ปัจจุบันองค์กรเริ่มเผชิญความเสี่ยงจากการที่ระบบปัญญาประดิษฐ์ที่นำเข้ามาใช้งานมีพฤติกรรมที่ไม่สามารถคาดเดาได้

นายสัตยา นาเดลลา (Satya Nadella) ประธานเจ้าหน้าที่บริหารของไมโครซอฟท์ ได้ระบุผ่านบล็อกส่วนตัวว่า องค์กรต่างๆ ไม่ควรวางใจเพียงแค่คำยืนยันความปลอดภัยจากผู้ให้บริการโมเดล AI เพียงอย่างเดียว โดยเสนอว่าจำเป็นต้องมีระบบควบคุมแยกต่างหากที่ไม่ขึ้นตรงกับผู้พัฒนาโมเดลนั้นๆ “เรากำลังนำระบบและโมเดลเอเจนต์ที่ซับซ้อนเหล่านี้มาใช้งาน พร้อมให้สิทธิ์เข้าถึงข้อมูลที่มีความละเอียดอ่อนที่สุด รวมถึงมอบอำนาจในการดำเนินการที่มีความสำคัญยิ่งยวดแทนเรา เราไม่สามารถผลักภาระความรับผิดชอบในสิ่งที่ปัญญาประดิษฐ์ทำแทนเราออกไปได้ คำรับรองของผู้ให้บริการโมเดลไม่สามารถปลดเปลื้องความรับผิดชอบนั้นได้ กล่าวอีกนัยหนึ่งคือ เราต้องแยกผู้จัดหาปัญญาประดิษฐ์ออกจากผู้มีอำนาจควบคุมมัน”

ด้านนางฮาเยเต กัลล็อต (Hayete Gallot) หัวหน้าฝ่ายธุรกิจความปลอดภัยของไมโครซอฟท์ ระบุว่า โมเดลระดับแนวหน้าไม่สามารถไว้วางใจได้ ไม่ใช่เพราะมีความมุ่งร้ายหรือถูกแฮกได้ง่าย แต่เป็นเพราะโมเดลเหล่านี้ถูกฝึกมาเพื่อทำภารกิจให้สำเร็จ ไม่ได้ถูกฝึกให้ปฏิบัติตามบรรทัดฐานหรือการใช้วิจารณญาณขององค์กร ทั้งยังมักได้รับสิทธิ์เข้าถึงข้อมูลและเครื่องมือสำคัญ ซึ่งอาจก่อให้เกิดความเสียหายร้ายแรงได้หากเกิดข้อผิดพลาด

นอกจากนี้ ไมโครซอฟท์ยังได้อัปเดตระบบ Microsoft Defender ให้สามารถตรวจจับ AI Agent ได้ถึง 60 ประเภทที่พนักงานอาจนำเข้ามาใช้ในที่ทำงาน เช่น Claude Code, Codex และ OpenClaw พร้อมเพิ่มฟังก์ชันจำกัดการเข้าถึงข้อมูล ปรับสิทธิ์การใช้งานตามภารกิจแบบไดนามิก และกำหนดให้ต้องได้รับการอนุมัติจากมนุษย์หากเอเจนต์จะทำการตัดสินใจที่มีความเสี่ยง ขณะเดียวกันไมโครซอฟท์ยังเข้าร่วมแพลตฟอร์ม Open Agent Safety Platform ของ อินวิเดีย (Nvidia) เพื่อพัฒนาระบบควบคุมและตัดการทำงานของเอเจนต์ในระดับฮาร์ดแวร์ต่อไป