xAI ถูกกล่าวหาว่า ใช้ภาพเยาวชน ไปฝึก Grok AI และแสวงหาประโยชน์โดยไม่ได้รับอนุญาต

สำนักข่าวบริคอินโฟ – โจทก์นิรนามในชื่อ Jane Doe ยื่นคำร้องขอรับรองฟ้องคดีแบบกลุ่ม โดยกล่าวหาว่า xAI นำสื่อที่มีภาพเด็กเพื่อไปแสวงหาผลประโยชน์ทางเพศ (CSAM) ซึ่งมีภาพของเธอในวัยเด็กไปใช้ฝึกแชตบอต Grok และส่งผลให้มีการสร้างสื่อในลักษณะดังกล่าวด้วย AI เพิ่มขึ้น

Jane Doe ระบุว่าเธอเป็นผู้เสียหายเดิมที่อยู่ในโครงการ Child Exploitation Notification Program ของสำนักงานสอบสวนกลางสหรัฐฯ หรือ FBI คำร้องกล่าวหาว่า xAI ออกแบบ Grok ให้ตอบสนองต่อคำสั่งสร้างเนื้อหาทางเพศเพื่อดึงดูดผู้ใช้ X และ Grok มากขึ้น

คดีระบุว่า ตามนโยบายของ xAI เนื้อหาที่เผยแพร่ต่อสาธารณะบน X และผลลัพธ์ที่ Grok สร้างขึ้นอาจถูกนำไปใช้ฝึกโมเดลได้ จึงกล่าวหาว่า CSAM ที่ Grok สร้างและเผยแพร่ถูกนำกลับไปใช้ปรับปรุงระบบต่อไป คำร้องระบุว่า หากเนื้อหาดังกล่าวเข้าสู่กระบวนการฝึก อิทธิพลของมันอาจคงอยู่และนำไปสู่ผลลัพธ์ที่เป็นการละเมิดในอนาคต

Sarah London ทนายความของโจทก์และหุ้นส่วนสำนักงานกฎหมาย Girard Sharp กล่าวว่า “xAI ต้องรับผิดชอบต่อการฝึกโมเดลโดยรู้ว่ามีภาพการละเมิดร้ายแรงที่เธอเผชิญ และภาพการละเมิดของผู้รอดชีวิตทุกคนในกลุ่มคดีนี้”

โจทก์ขอให้ศาลสั่งชดใช้ค่าเสียหายแก่ผู้เสียหายที่อ้างว่าภาพของตนถูกใช้สร้าง CSAM และให้ทำลาย CSAM ที่ Grok สร้างขึ้นทั้งหมด รวมถึงเนื้อหาที่อาจใช้ฝึกโมเดลได้

Margaret E. Mabie ทนายความของโจทก์จาก Marsh Law Firm กล่าวว่า “การครอบครอง การผลิต และการเผยแพร่ CSAM เป็นอาชญากรรม … ไม่มีข้อยกเว้นด้านปัญญาประดิษฐ์สำหรับกฎหมายคุ้มครองเด็กของรัฐบาลกลางสหรัฐ”