จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์ของ การ์ทเนอร์ (Gartner) กล่าวในงานสัมมนา Gartner Security & Risk Management Summit ว่า “การที่บริษัทผู้พัฒนา AI ชั้นนำ พยายามนำเสนอแนวคิดความปลอดภัยใหม่ ๆ เข้ามา ได้สร้าง ‘สัญญาณรบกวน’ จำนวนมากให้แก่สภาพแวดล้อมภัยคุกคามที่เดิมทีก็วุ่นวายอยู่แล้ว โดยผู้นำไซเบอร์ซีเคียวริตี้จำเป็นต้องมีความสามารถแยกแยะ ‘สัญญาณภัยคุกคามที่แท้จริง’ ออกจากสัญญาณรบกวนเหล่านั้นให้จงได้ เพื่อรับมือกับการเปลี่ยนแปลงของภูมิทัศน์ภัยคุกคามได้ทันเวลา”

สำหรับภัยคุกคามแรกคือ การโจมตีแอปพลิเคชัน AI (AI Application Compromise) ซึ่งแฮกเกอร์พุ่งเป้าไปที่เครื่องมือ AI ขององค์กรที่มีจำนวนเพิ่มมากขึ้น ทั้งระบบภายในและระบบสาธารณะ โดยพื้นที่การโจมตีได้ขยายวงกว้างไปยังระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ (Custom-built agents) การเชื่อมต่อกับระบบภายนอก (Third-party integrations) และแอปพลิเคชันเฉพาะสำหรับพนักงาน ซึ่งเสี่ยงต่อการทำข้อมูลละเอียดอ่อนหรือรหัสผ่านรั่วไหลหากระบบควบคุมหละหลวม

โดยทางวัตตส์ได้แนะนำให้ทีมไซเบอร์ซีเคียวริตี้ขยายขอบเขตการทำงานผ่านการนำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) ของการ์ทเนอร์มาปรับใช้ เพื่อฝังมาตรการลดความเสี่ยงในขั้นตอนการพัฒนา ร่วมกับการใช้แนวปฏิบัติวงจรการพัฒนาซอฟต์แวร์ที่ปลอดภัย (Secure Development Life Cycle) การจำลองรูปแบบภัยคุกคาม (Threat Modeling) และนำระบบควบคุมการเข้าถึงตามวัตถุประสงค์ (Purpose-Based Access Control – PBAC) มาติดตั้งใช้งาน

ประเด็นถัดมาคือ การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes) ที่พัฒนาขึ้นจากเทคโนโลยี Generative AI ทำให้การสร้างเสียง วิดีโอ หรือภาพ ทั้งแบบบันทึกล่วงหน้าและเรียลไทม์มีความสมจริงสูง จนถูกนำไปใช้โจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication) และใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อหลอกลวงพนักงานหรือแทรกซึมกระบวนการสรรหาบุคลากร

ทางจอห์น วัตตส์ ระบุว่า “การใช้ดีปเฟกของผู้โจมตียังพัฒนาก้าวหน้าอย่างต่อเนื่อง และกลายเป็นเรื่องปกติแล้วเพื่อทำให้การหลอกลวงแบบ Phishing ตรวจจับได้ยากขึ้น ไม่มีมาตรการควบคุมทางไซเบอร์เพียงหนึ่งเดียวที่จะปกป้องคุณได้ทั้งหมด ดังนั้นองค์กรจึงควรเสริมความแข็งแกร่งให้กับกระบวนการทางธุรกิจ การยกระดับความตระหนักรู้ของบุคลากร และการติดตั้งเทคโนโลยีตรวจจับดีปเฟกเท่าที่จะทำได้อย่างบูรณาการ”

โดยทีมความปลอดภัยต้องสร้างกลยุทธ์ลดความเสี่ยงที่เป็นชั้น ๆ (Layers of Controls) ปกป้องการยืนยันตัวตนจากการโจมตีแบบ Presentation Attack และ Injection Attack รวมถึงบังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) ในการประชุมออนไลน์

ในส่วนของ ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats) วัตตส์กล่าวว่า “วิวัฒนาการของผลิตภัณฑ์ GenAI จะยิ่งเร่งให้เกิดแนวโน้มการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรต่าง ๆ ต้องสร้างระบบขึ้นทะเบียนส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ หรือที่เรียกว่า Trusted Component Registries, พร้อมยกระดับความปลอดภัยในกระบวนการสร้างและส่งมอบซอฟต์แวร์ (CI/CD Pipelines) รวมถึงการสร้างระบบตรวจจับและตอบสนองต่อความผิดปกติในเชิงปฏิบัติการที่แข็งแกร่ง”

โดยผู้บริหารความมั่นคงปลอดภัยสารสนเทศ หรือ CISO ควรดำเนินการกำหนดให้ผู้จำหน่ายส่งมอบเอกสารคลังส่วนประกอบซอฟต์แวร์และ AI (SBOM และ AIBOM) พร้อมประเมินความเสี่ยงด้วย Threat Intelligence เลือกใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบ ลงนามดิจิทัลในขั้นตอนการพัฒนา และบังคับใช้ระบบควบคุมสิทธิ์เท่าที่จำเป็น (Least-Privilege)

สุดท้ายคือ การโจมตีด้วยพรอมต์ (Prompt Injection) ซึ่งเป็นภัยคุกคามที่พุ่งเป้าไปที่ระบบ AI โดยเฉพาะระบบที่ใช้โมเดลภาษาขนาดใหญ่ (LLMs) โดยผู้โจมตีจะปรับแต่งหรือแทรกคำสั่งเพื่อบิดเบือนพฤติกรรมโมเดล ส่งผลให้ข้อมูลรั่วไหล ทำสิ่งที่ไม่ได้รับอนุญาต หรือข้ามผ่านระบบควบคุมความปลอดภัย ซึ่งเป็นวิกฤตที่ทีมไซเบอร์ซีเคียวริตี้มองข้ามไม่ได้เมื่อองค์กรหันมาใช้ GenAI มากขึ้น

การต่อสู้กับภัยคุกคามนี้จำเป็นต้องใช้กลยุทธ์ป้องกันแบบเป็นชั้น ตั้งแต่การทดสอบความปลอดภัยเชิงรุก กำหนดคำสั่งเชิงระบบ (System Prompts) ที่แข็งแกร่ง ติดตั้งระบบคัดกรองพฤติกรรมขณะรันไทม์ (AI Runtime Guardrails) นำระบบตรวจสอบและล้างข้อมูลอินพุต (Input Validation and Sanitization) มาใช้ ตลอดจนจัดตั้งระบบตรวจสอบและแจ้งเตือนพฤติกรรมที่ผิดปกติเพื่อสกัดกั้นการโจมตีได้ทันท่วงที

The post การ์ทเนอร์เตือน 4 ภัยคุกคามไซเบอร์ยุค AI ที่ผู้นำความมั่นคงปลอดภัยต้องเร่งปรับแผนรับมือ appeared first on Brickinfo News Agency.