การ์ทเนอร์เตือน 4 ภัยคุกคามไซเบอร์ยุค AI ที่ผู้นำความมั่นคงปลอดภัยต้องเร่งปรับแผนรับมือ

สำนักข่าวบริคอินโฟ – การ์ทเนอร์ อิงก์ (Gartner Inc.) บริษัทวิจัยและให้คำปรึกษาชั้นนำด้านธุรกิจและเทคโนโลยี เปิดเผยว่า ปัจจุบันองค์กรต่าง ๆ กำลังเผชิญกับภัยคุกคามสำคัญและคาดการณ์ได้ยากอยู่ 4 ประการ ซึ่งเป็นจุดที่กลุ่มผู้โจมตีมีความได้เปรียบอย่างมากในการเจาะช่องโหว่ขององค์กรเป้าหมาย ประกอบไปด้วย ดีปเฟก (Deepfakes), การโจมตีแอปพลิเคชัน AI (AI Application Compromise), การโจมตีด้วยพรอมต์ (Prompt Injection) และภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chains) โดยขอบเขตของภัยคุกคามเหล่านี้ถูกจัดหมวดหมู่ออกเป็น 6 หมวด บนแกนวัดหลักคือ สัญญาณภัยคุกคาม (Threat Signal) จากคุณภาพและปริมาณข้อมูล และการประเมินความสามารถขององค์กรในการจัดการกับภัยคุกคามนั้น ๆ ว่าผู้โจมตีเป็นฝ่ายกุมความได้เปรียบอยู่หรือไม่ ซึ่งผู้นำด้านไซเบอร์ซีเคียวริตี้จำเป็นต้องเร่งปรับกลยุทธ์เพื่อรับมืออย่างเร่งด่วน

จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์ของ การ์ทเนอร์ (Gartner) กล่าวในงานสัมมนา Gartner Security & Risk Management Summit ว่า “การที่บริษัทผู้พัฒนา AI ชั้นนำ พยายามนำเสนอแนวคิดความปลอดภัยใหม่ ๆ เข้ามา ได้สร้าง ‘สัญญาณรบกวน’ จำนวนมากให้แก่สภาพแวดล้อมภัยคุกคามที่เดิมทีก็วุ่นวายอยู่แล้ว โดยผู้นำไซเบอร์ซีเคียวริตี้จำเป็นต้องมีความสามารถแยกแยะ ‘สัญญาณภัยคุกคามที่แท้จริง’ ออกจากสัญญาณรบกวนเหล่านั้นให้จงได้ เพื่อรับมือกับการเปลี่ยนแปลงของภูมิทัศน์ภัยคุกคามได้ทันเวลา”

สำหรับภัยคุกคามแรกคือ การโจมตีแอปพลิเคชัน AI (AI Application Compromise) ซึ่งแฮกเกอร์พุ่งเป้าไปที่เครื่องมือ AI ขององค์กรที่มีจำนวนเพิ่มมากขึ้น ทั้งระบบภายในและระบบสาธารณะ โดยพื้นที่การโจมตีได้ขยายวงกว้างไปยังระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ (Custom-built agents) การเชื่อมต่อกับระบบภายนอก (Third-party integrations) และแอปพลิเคชันเฉพาะสำหรับพนักงาน ซึ่งเสี่ยงต่อการทำข้อมูลละเอียดอ่อนหรือรหัสผ่านรั่วไหลหากระบบควบคุมหละหลวม

โดยทางวัตตส์ได้แนะนำให้ทีมไซเบอร์ซีเคียวริตี้ขยายขอบเขตการทำงานผ่านการนำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) ของการ์ทเนอร์มาปรับใช้ เพื่อฝังมาตรการลดความเสี่ยงในขั้นตอนการพัฒนา ร่วมกับการใช้แนวปฏิบัติวงจรการพัฒนาซอฟต์แวร์ที่ปลอดภัย (Secure Development Life Cycle) การจำลองรูปแบบภัยคุกคาม (Threat Modeling) และนำระบบควบคุมการเข้าถึงตามวัตถุประสงค์ (Purpose-Based Access Control – PBAC) มาติดตั้งใช้งาน

ประเด็นถัดมาคือ การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes) ที่พัฒนาขึ้นจากเทคโนโลยี Generative AI ทำให้การสร้างเสียง วิดีโอ หรือภาพ ทั้งแบบบันทึกล่วงหน้าและเรียลไทม์มีความสมจริงสูง จนถูกนำไปใช้โจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication) และใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อหลอกลวงพนักงานหรือแทรกซึมกระบวนการสรรหาบุคลากร

ทางจอห์น วัตตส์ ระบุว่า “การใช้ดีปเฟกของผู้โจมตียังพัฒนาก้าวหน้าอย่างต่อเนื่อง และกลายเป็นเรื่องปกติแล้วเพื่อทำให้การหลอกลวงแบบ Phishing ตรวจจับได้ยากขึ้น ไม่มีมาตรการควบคุมทางไซเบอร์เพียงหนึ่งเดียวที่จะปกป้องคุณได้ทั้งหมด ดังนั้นองค์กรจึงควรเสริมความแข็งแกร่งให้กับกระบวนการทางธุรกิจ การยกระดับความตระหนักรู้ของบุคลากร และการติดตั้งเทคโนโลยีตรวจจับดีปเฟกเท่าที่จะทำได้อย่างบูรณาการ”

โดยทีมความปลอดภัยต้องสร้างกลยุทธ์ลดความเสี่ยงที่เป็นชั้น ๆ (Layers of Controls) ปกป้องการยืนยันตัวตนจากการโจมตีแบบ Presentation Attack และ Injection Attack รวมถึงบังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) ในการประชุมออนไลน์

ในส่วนของ ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats) วัตตส์กล่าวว่า “วิวัฒนาการของผลิตภัณฑ์ GenAI จะยิ่งเร่งให้เกิดแนวโน้มการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรต่าง ๆ ต้องสร้างระบบขึ้นทะเบียนส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ หรือที่เรียกว่า Trusted Component Registries, พร้อมยกระดับความปลอดภัยในกระบวนการสร้างและส่งมอบซอฟต์แวร์ (CI/CD Pipelines) รวมถึงการสร้างระบบตรวจจับและตอบสนองต่อความผิดปกติในเชิงปฏิบัติการที่แข็งแกร่ง”

โดยผู้บริหารความมั่นคงปลอดภัยสารสนเทศ หรือ CISO ควรดำเนินการกำหนดให้ผู้จำหน่ายส่งมอบเอกสารคลังส่วนประกอบซอฟต์แวร์และ AI (SBOM และ AIBOM) พร้อมประเมินความเสี่ยงด้วย Threat Intelligence เลือกใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบ ลงนามดิจิทัลในขั้นตอนการพัฒนา และบังคับใช้ระบบควบคุมสิทธิ์เท่าที่จำเป็น (Least-Privilege)

สุดท้ายคือ การโจมตีด้วยพรอมต์ (Prompt Injection) ซึ่งเป็นภัยคุกคามที่พุ่งเป้าไปที่ระบบ AI โดยเฉพาะระบบที่ใช้โมเดลภาษาขนาดใหญ่ (LLMs) โดยผู้โจมตีจะปรับแต่งหรือแทรกคำสั่งเพื่อบิดเบือนพฤติกรรมโมเดล ส่งผลให้ข้อมูลรั่วไหล ทำสิ่งที่ไม่ได้รับอนุญาต หรือข้ามผ่านระบบควบคุมความปลอดภัย ซึ่งเป็นวิกฤตที่ทีมไซเบอร์ซีเคียวริตี้มองข้ามไม่ได้เมื่อองค์กรหันมาใช้ GenAI มากขึ้น

การต่อสู้กับภัยคุกคามนี้จำเป็นต้องใช้กลยุทธ์ป้องกันแบบเป็นชั้น ตั้งแต่การทดสอบความปลอดภัยเชิงรุก กำหนดคำสั่งเชิงระบบ (System Prompts) ที่แข็งแกร่ง ติดตั้งระบบคัดกรองพฤติกรรมขณะรันไทม์ (AI Runtime Guardrails) นำระบบตรวจสอบและล้างข้อมูลอินพุต (Input Validation and Sanitization) มาใช้ ตลอดจนจัดตั้งระบบตรวจสอบและแจ้งเตือนพฤติกรรมที่ผิดปกติเพื่อสกัดกั้นการโจมตีได้ทันท่วงที