• ใช้ AI ในงานคดีได้ไหม ? ควรพิจารณาอะไรบ้าง ? จากคำแนะนำของประธานศาลฎีกา เน้นย้ำกฎเหล็กห้ามใช้ตัดสินความ

เจิ้งจี๋เจ๋อ ผู้พิพากษาประจำศาลประชาชนเขตทงโจว ได้เผชิญกับสถานการณ์ที่ทนายฝ่ายโจทก์อ้างอิงคำพิพากษาสองรายการ โดยระบุว่ามาจาก ศาลประชาชนสูงสุด และ ศาลประชาชนชั้นกลาง หมายเลข 1 ในนครเซี่ยงไฮ้ (Shanghai No. 1 Intermediate People’s Court) พร้อมยืนยันว่าข้อเท็จจริงและเหตุผลทางกฎหมายของคดีเหล่านั้นตรงกับข้อพิพาทที่กำลังพิจารณาอย่างมาก อย่างไรก็ตาม เมื่อผู้พิพากษาทำการตรวจสอบกลับพบว่าคำกล่าวอ้างดังกล่าว ไม่เป็นความจริง หลังจากการซักไซ้ไล่เรียง ทนายความรายนี้จึงยอมรับว่า “คำพิพากษาอ้างอิง” ดังกล่าวมาจากการที่เขาป้อนข้อมูลสำคัญของคดีปัจจุบันเข้าสู่ โมเดลภาษาขนาดใหญ่ (Large Language Model – LLM) ของ AI และคัดลอก คดีความตัวอย่าง ที่ AI สร้างขึ้นโดย ไม่ได้ตรวจสอบความถูกต้อง แต่อย่างใด

จากกรณีดังกล่าว ศาลประชาชนเขตทงโจว ได้มีคำสั่งให้การอ้างอิงคำพิพากษาที่สร้างโดย ปัญญาประดิษฐ์ นั้นเป็น โมฆะ และออก หนังสือตักเตือนพฤติกรรม ของทนายความรายดังกล่าวอย่างเป็นทางการในคำพิพากษาฉบับลายลักษณ์อักษร พร้อมเน้นย้ำถึงความสำคัญของการไม่ปล่อยให้ ข้อมูลเท็จ ที่สร้างขึ้นโดย AI เข้ามาทำลาย ระเบียบความถูกต้องทางตุลาการ

เฉินหางผิง อาจารย์กฎหมายจาก มหาวิทยาลัยชิงหัว (Tsinghua University) อธิบายว่า การอ้างอิงคดีปลอมนี้เป็นตัวอย่างของ “อาการหลอน” (hallucination) ของ ปัญญาประดิษฐ์ ซึ่งหมายถึงการที่ AI สร้างข้อมูลที่ เป็นเท็จ หรือ ทำให้เข้าใจผิด แต่มีรูปแบบและบริบทที่ ดูน่าเชื่อถือ

การแทรกซึมของเนื้อหาที่สร้างโดย AI ไม่ได้จำกัดอยู่เพียงกรณีเดียว โจวจวิ้นอู่ หุ้นส่วนอาวุโสของสำนักงานกฎหมายท้องถิ่นใน กรุงปักกิ่ง ให้ความเห็นว่า การค้นหาคำพิพากษาด้วยเครื่องมือ AI มีการใช้งานอยู่บ้าง แต่ต้องใช้ความระมัดระวังอย่างสูง เนื่องจากผลลัพธ์ของ AI ไม่อาจเชื่อถือได้อย่างเต็มที่ โดยเฉพาะหมายเลขคดีความที่เรียงลำดับอย่างง่าย ๆ เช่น 1234 หรือ 000 มีแนวโน้มสูงที่จะเป็น ข้อมูลเท็จ ขณะเดียวกันในศาลท้องถิ่นทางตะวันออกของจีน ก็พบคำฟ้องร้องที่เชื่อว่าถูกเขียนโดย ปัญญาประดิษฐ์ ซึ่งมีการระบุเอกสารรายละเอียดและหมายเลขคดีความที่ ไม่ถูกต้อง

เหตุการณ์เหล่านี้ตอกย้ำความ วิตกกังวล ที่เพิ่มขึ้นทั่วโลกเกี่ยวกับปริมาณเนื้อหาที่สร้างโดย ปัญญาประดิษฐ์ ที่เพิ่มขึ้นอย่างรวดเร็ว โดยเฉพาะหลังจากการเปิดตัว แชตจีพีที (ChatGPT) ในปี 2023 สื่อสหรัฐฯ ได้รายงานผลการศึกษาของ แกรไฟต์ (Graphite) สตาร์ตอัป AI ที่พบว่า บทความใหม่ที่เขียนโดย AI เพิ่มขึ้นอย่างมาก และในช่วงเวลาหนึ่งมีจำนวนมากกว่าที่เขียนโดยมนุษย์เสียอีก เฉินหางผิงยังกล่าวเสริมว่า กรณีทนายยื่นฟ้องร้องด้วยข้อมูลจาก AI Hallucination เกิดขึ้นทั่วโลก ส่งผลให้หลายประเทศ เช่น สหรัฐฯ และ สิงคโปร์ ต้องออก กฎระเบียบใหม่ เพื่อตรวจสอบและรับรอง ความถูกต้อง ของเอกสารที่ใช้ ปัญญาประดิษฐ์ ช่วยจัดทำก่อนยื่นต่อศาล

เพื่อรับมือกับความเสี่ยงนี้ สภานิติบัญญัติระดับสูงสุดของจีน จึงได้อนุมัติการแก้ไข กฎหมายความมั่นคงทางไซเบอร์ของประเทศ โดยมีการปรับปรุงในส่วนของ การกำกับตรวจสอบ มาตรฐานจริยธรรม และ การประเมินความเสี่ยง ของเทคโนโลยี ปัญญาประดิษฐ์

เฉินหางผิงได้กระตุ้นเตือนให้หน่วยงานทางการต่างๆ เสริมสร้าง การกำกับควบคุมทางปกครอง และ การตีความทางตุลาการ เพิ่มเติม เพื่อป้องกันการใช้ ปัญญาประดิษฐ์ ในทางที่ผิดจนทำลาย ระเบียบทางตุลาการ โดยเน้นย้ำว่า แม้ AI จะช่วยเพิ่มประสิทธิภาพให้กับงานกฎหมาย แต่นักกฎหมายเองก็ต้องเรียนรู้ที่จะใช้เครื่องมือเหล่านี้อย่าง ชาญฉลาด ในขณะที่ โจว เชื่อว่า แม้ AI จะเพิ่มความเสี่ยงเรื่อง ข้อมูลเท็จ แต่ก็มีการแสวงหาแนวทางที่จะใช้ ปัญญาประดิษฐ์ เข้ามาช่วยงานตุลาการอย่างถูกต้องและสร้างสรรค์ โดยบางประเทศได้เริ่มทดลองใช้ AI ในการช่วยพิจารณา คำตัดสินคดีอาญา แล้ว

The post ทนายจีน อ้างอิง ‘คดีปลอม’ กลางศาล หลังใช้ AI ช่วยหาข้อมูล กลายเป็นภัยจาก “ความหลอน” ของ ปัญญาประดิษฐ์ ในวงการยุติธรรม appeared first on Brickinfo News Agency.