นักวิจัย Anthropic เผยผลการทดลองใช้ AI ปรับปรุง-เทรนโมเดล AI ด้วยกันเอง พบว่ามีประสิทธิภาพกง่า แต่ก็มาพร้อมข้อควรระวัง

สำนักข่าวบริคอินโฟ – บริษัท Anthropic เผยแพร่งานวิจัยชิ้นใหม่ในชื่อ Automated Researchers Can Reliably Mitigate Alignment Failures ซึ่งแสดงให้เห็นถึงศักยภาพของระบบ ปัญญาประดิษฐ์ หรือ AI ในการปรับปรุงและแก้ไขพฤติกรรมที่ไม่สอดคล้องกับความปลอดภัย (Alignment) ของโมเดล AI อื่นได้อย่างมีประสิทธิภาพ โดยระบบอัตโนมัติสามารถยกระดับผลการทดสอบเกณฑ์ชี้วัด (Benchmarks) ด้านความสอดคล้องได้ครบทั้ง 10 รูปแบบโดยไม่ส่งผลกระทบต่อประสิทธิภาพโดยรวมของโมเดล

งานวิจัยดังกล่าวอยู่ภายใต้การนำของ Chen Yueh-Han นักวิจัยในโครงการ fellows ของ Anthropic โดยระบบการทำงานได้จำลองกระบวนการวิจัยแบบดั้งเดิม เริ่มต้นจากการค้นหาข้อมูลงานวิจัยที่มีอยู่ เสนอระเบียบวิธีวิจัย และดำเนินการฝึกสอน (Train) โมเดลตามวิธีดังกล่าวเป็นเวลา 30 นาที เพื่อพัฒนาผลการทดสอบอย่างเป็นขั้นเป็นตอนผ่านการทำซ้ำหลายครั้ง ทั้งนี้ วิธีการที่มีประสิทธิภาพจะถูกเก็บไว้ใช้ ขณะที่วิธีที่ไม่ได้ผลจะถูกคัดทิ้ง ส่งผลให้ระบบสามารถดำเนินการได้อย่างรวดเร็วและรองรับการประมวลผลขนาดใหญ่

ระบบ Automated Alignment Researcher (AAR) ถูกนำมาเปรียบเทียบกับนักวิจัยที่เป็นมนุษย์ ซึ่งรายงานระบุว่าวิธีที่ดีที่สุดของ AAR สามารถทำผลงานได้เหนือกว่าแนวทางที่นักวิจัยมนุษย์ผู้มีประสบการณ์เสนอ โดยใช้เวลาเฉลี่ยไม่เกิน 6 ชั่วโมง นอกจากนี้ยังมีความแตกต่างอย่างชัดเจนในด้านต้นทุน โดยค่าใช้จ่ายในการประมวลผลผ่าน API ของ AAR อยู่ที่ประมาณ 4 ดอลลาร์สหรัฐต่อชั่วโมง เมื่อเทียบกับค่าจ้างของนักวิจัยมนุษย์ซึ่งอยู่ที่ราว 150 ดอลลาร์สหรัฐต่อชั่วโมง

อย่างไรก็ตาม รายงานฉบับนี้ระบุถึงข้อจำกัดบางประการของระบบอัตโนมัติ โดยชี้ว่าประสิทธิภาพของระบบจะขึ้นอยู่กับความแม่นยำของเกณฑ์ชี้วัดว่าสะท้อนถึงเป้าหมายด้านความปลอดภัยที่แท้จริงได้มากน้อยเพียงใด ซึ่งมนุษย์ยังคงมีภาระงานสำคัญในการกำหนดและดูแลรักษาเกณฑ์ชี้วัดเหล่านั้น รวมถึงการพัฒนาและจัดเตรียมฐานข้อมูลงานวิจัยที่ระบบอัตโนมัตินำมาใช้ประมวลผล