ข่าว
แคลิฟอร์เนียประกาศใช้กฎหมายใหม่ บังคับ AI แชทบอท คู่หู-คู่ใจ ต้องเปิดเผยตัวตน หากผู้ใช้งานเข้าใจผิดว่าเป็นมนุษย์
สำนักข่าวบริคอินโฟ – รัฐแคลิฟอร์เนีย (California) ได้ประกาศใช้กฎหมายฉบับใหม่ Senate Bill (SB) 243 เมื่อวันที่ 13 ตุลาคม ที่ผ่านมา โดยมีวัตถุประสงค์เพื่อควบคุมอุตสาหกรรม แชทบอทคู่หู (Companion AI Chatbots) ที่เติบโตอย่างรวดเร็ว กฎหมายฉบับนี้กำหนดให้ผู้พัฒนา แชทบอทคู่หู ต้องดำเนินการป้องกันใหม่ ๆ โดยเฉพาะอย่างยิ่ง หากมีเหตุอันสมควรให้เชื่อว่าผู้ใช้งานอาจเข้าใจผิดว่ากำลังโต้ตอบอยู่กับมนุษย์ กฎหมายใหม่นี้จะบังคับให้ผู้สร้างแชทบอทต้อง “แจ้งเตือนอย่างชัดเจนและเด่นชัด” ว่าผลิตภัณฑ์ดังกล่าวเป็น ปัญญาประดิษฐ์ (AI) ไม่ใช่มนุษย์
แชทบอทคู่หู คือโปรแกรม AI ที่ออกแบบมาเพื่อจำลองความสัมพันธ์ของมนุษย์ และมอบความเป็นเพื่อนผ่านการสนทนาที่เป็นส่วนตัวและมีอารมณ์ พวกมันสามารถทำหน้าที่เป็นเพื่อน คู่รัก หรือคนสนิทได้ โดยแตกต่างจากแชทบอททั่วไปตรงที่ถูกสร้างขึ้นเพื่อการปฏิสัมพันธ์เชิงความสัมพันธ์โดยเฉพาะ แม้ว่า แอปพลิเคชัน AI คู่หู เหล่านี้จะสามารถให้การสนับสนุนตลอด 24 ชั่วโมง และให้ความรู้สึกเชื่อมโยง แต่ก็มีความกังวลอย่างมากเกี่ยวกับศักยภาพในการตอกย้ำพฤติกรรมเชิงลบและก่อให้เกิดอันตราย โดยเฉพาะอย่างยิ่งต่อเยาวชน ซึ่งนำไปสู่การตรวจสอบที่เพิ่มขึ้นจากหน่วยงานกำกับดูแล
โดยทั่วไปแล้ว แอปพลิเคชัน AI คู่หู สามารถจำแนกตามประเภทการใช้งานได้หลายรูปแบบ เช่น เป็นเพื่อนหรือคู่รักเสมือน (AI Girlfriend/Boyfriend), การสนับสนุนด้านสุขภาพจิต (Mental Health Support) อย่างเช่น Youper หรือ Woebot Health, ผู้ช่วยวางแผนและแจ้งเตือนรายวัน (AI Assistant), หรือเป็น อินฟลูเอนเซอร์เสมือน (Virtual Influencers) เช่น Lil Miquela และ Aisha NEO
ร่างกฎหมาย SB 243 นี้ได้รับการยกย่องจากวุฒิสมาชิกของรัฐ Steve Padilla ว่าเป็น “มาตรการป้องกันแชทบอท AI แห่งแรกของประเทศ” และจะเริ่มมีผลบังคับใช้ในปีหน้า โดยกำหนดให้ผู้ประกอบการแชทบอทคู่หูบางรายต้องรายงานประจำปีต่อสำนักงานป้องกันการฆ่าตัวตาย (Office of Suicide Prevention) เกี่ยวกับมาตรการป้องกันที่พวกเขาได้ติดตั้งไว้เพื่อ “ตรวจจับ ลบ และตอบสนองต่อกรณีที่ผู้ใช้มีความคิดฆ่าตัวตาย” ทั้งนี้ สำนักงานดังกล่าวจะต้องเผยแพร่ข้อมูลเหล่านี้บนเว็บไซต์ของตน
Gavin Newsom ผู้ว่าการรัฐแคลิฟอร์เนีย กล่าวในแถลงการณ์ขณะลงนามในร่างกฎหมายนี้ ซึ่งรวมถึงกฎหมายอื่น ๆ ที่มุ่งเน้นการปรับปรุงความปลอดภัยออนไลน์สำหรับเด็กว่า “เทคโนโลยีที่เกิดขึ้นใหม่ เช่น แชทบอท และ โซเชียลมีเดีย สามารถสร้างแรงบันดาลใจ ให้ความรู้ และเชื่อมโยงผู้คนเข้าด้วยกันได้ แต่หากปราศจากมาตรการป้องกันที่แท้จริง เทคโนโลยีเหล่านี้ก็สามารถฉวยโอกาส ชักนำให้เข้าใจผิด และเป็นอันตรายต่อบุตรหลานของเราได้”
ผู้ว่าการ Newsom ยังกล่าวเพิ่มเติมว่า “เราสามารถเป็นผู้นำด้าน AI และเทคโนโลยีต่อไปได้ แต่เราต้องทำอย่างรับผิดชอบ ปกป้องบุตรหลานของเรา ในทุกขั้นตอน ความปลอดภัยของเด็ก ไม่ใช่สิ่งที่สามารถนำมาซื้อขายได้” การประกาศใช้กฎหมาย SB 243 นี้เกิดขึ้นหลังจากที่ผู้ว่าการรัฐ Newsom ได้ลงนามใน Senate Bill 53 ซึ่งเป็นร่างกฎหมายความโปร่งใสของ AI ครั้งสำคัญที่เคยเป็นประเด็นถกเถียงและเป็นข่าวพาดหัวมาหลายเดือนให้มีผลบังคับใช้ในรัฐแคลิฟอร์เนียด้วยเช่นกัน
