รัฐบาลอินเดียสั่ง X Corp แก้ระบบ Grok AI หลังพบสร้างภาพอนาจาร ขีดเส้นตายรายงานผล 72 ชั่วโมง

สำนักข่าวบริคอินโฟ – สำนักข่าวซินหัว รายงานว่า รัฐบาลอินเดียออกคำสั่งด่วนไปยัง เอ็กซ์ คอร์ป (X Corp.) บริษัทแม่ของปัญญาประดิษฐ์หรือ เอไอ (AI) ชื่อดังอย่าง “กร็อก” (Grok) ให้ดำเนินการป้องกันการสร้างเนื้อหาลามกอนาจารและเนื้อหาทางเพศที่โจ่งแจ้งบนแพลตฟอร์ม โดยกำหนดเส้นตายให้บริษัทส่งรายงานผลการปฏิบัติตามคำสั่งดังกล่าวภายใน 72 ชั่วโมง เพื่อควบคุมความเสี่ยงจากการใช้เทคโนโลยีในทางที่ผิด

เมื่อวันศุกร์ที่ 2 มกราคม ที่ผ่านมา กระทรวงอิเล็กทรอนิกส์และเทคโนโลยีสารสนเทศของอินเดีย ได้ทำหนังสือแจ้งเตือนไปยัง เอ็กซ์ คอร์ป (X Corp.) อย่างเป็นทางการ โดยระบุถึงความล้มเหลวในการปฏิบัติตามพันธกรณีทางกฎหมาย ภายใต้พระราชบัญญัติเทคโนโลยีสารสนเทศ ปี 2000 (Information Technology Act, 2000) รวมถึงแนวปฏิบัติอื่นๆ ที่เกี่ยวข้อง ซึ่งถือเป็นมาตรการทางกฎหมายที่แพลตฟอร์มดิจิทัลในอินเดียต้องยึดถืออย่างเคร่งครัด

ทางกระทรวงฯ ได้เน้นย้ำถึงปัญหาการใช้งาน กร็อก (Grok) ที่ถูกนำไปใช้ในทางที่ผิดอย่างแพร่หลาย โดยเฉพาะการใช้ชุดคำสั่งหรือการพรอมต์ (Prompt) เพื่อสร้างและเผยแพร่ภาพรวมถึงวิดีโอที่ไม่เหมาะสม ซึ่งมีเป้าหมายหลักเป็นผู้หญิงและเด็ก รายงานระบุว่ามีการใช้ AI ดังกล่าวสร้างภาพจำลองของผู้หญิงและผู้เยาว์ในลักษณะที่สวมใส่เครื่องแต่งกายเปิดเผยร่างกายมากเกินไป จนกลายเป็นประเด็นความกังวลระดับชาติ

จากสถานการณ์ดังกล่าว รัฐบาลอินเดียจึงมีคำสั่งให้แพลตฟอร์มบังคับใช้ข้อกำหนดในการให้บริการอย่างเข้มงวด และต้องดำเนินการขั้นเด็ดขาดกับผู้ที่ฝ่าฝืน ซึ่งรวมถึงมาตรการระงับหรือยกเลิกบัญชีผู้ใช้งานที่นำเครื่องมือ เอไอ (AI) นี้ไปใช้ในทางที่ผิด เพื่อป้องกันไม่ให้เกิดความเสียหายต่อสังคมและกลุ่มเปราะบางจากการใช้เทคโนโลยีดังกล่าว