เจาะประเด็น
AI / Law
ทนายใช้ ChatGPT อ้างคำให้การพยานที่ไม่มีอยู่จริง โดนลงโทษแล้ว อ้างไม่รู้ว่า AI มันมั่วได้
ศาลนิวเม็กซิโกสั่งลงโทษทนายความที่ยื่นเอกสารซึ่งเต็มไปด้วยคำให้การและพยานที่ ChatGPT แต่งขึ้นมาเอง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้าคนที่หน้าที่คือ "ตรวจสอบข้อเท็จจริง" ยังเชื่อ AI แบบไม่ตรวจสอบ แล้วคนทั่วไปจะเหลือเกราะอะไรป้องกันตัวเอง
อีกหนึ่งเคสที่ควรถูกจดจำไว้เป็นบทเรียน คราวนี้เกิดกับทนายความ defences ในรัฐนิวเม็กซิโกที่ยื่นเอกสารต่อศาลโดยอ้างคำให้การของพยานที่...ไม่มีตัวตนอยู่จริงบนโลกใบนี้ พยานพวกนั้นถูก ChatGPT แต่งขึ้นมาล้วนๆ และทนายคนนี้ก็ยื่นเข้าไปโดยไม่ตรวจสอบอะไรเลย
จุดที่น่าตกใจไม่ใช่แค่การที่ AI มั่ว แต่คือคำแก้ตัวของทนายคนนี้ที่บอกว่า "ผมไม่รู้ว่า AI มัน hallucinate ข้อเท็จจริงได้" — ฟังดูเหมือนคนที่ใช้เครื่องมือโดยไม่รู้จักเครื่องมือที่ตัวเองถืออยู่เลย ทั้งที่ ChatGPT เองก็มีข้อความเตือนเรื่องความแม่นยำอยู่แทบทุกหน้าจอ
เรื่องนี้ไม่ใช่เคสแรกและไม่ใช่เคสสุดท้าย ก่อนหน้านี้มีทนายในสหรัฐหลายรายที่โดนศาลตำหนิหรือปรับ เพราะยื่นเอกสารที่อ้างคำพิพากษาและคดีความที่ AI แต่งขึ้นมา จนหลายศาลเริ่มออกกฎบังคับให้นักกฎหมายต้องเปิดเผยว่าใช้ AI ช่วยร่างเอกสารหรือไม่ แต่นี่คืออีกครั้งที่คำเตือนเหล่านั้นยังไม่ซึมเข้าห้องทำงานของคนบางคน
ในระบบกฎหมาย เอกสารที่ยื่นต่อศาลถือเป็นคำรับรองความจริงจากทนายความโดยตรง ถ้าอ้างพยานที่ไม่มีอยู่จริง นั่นไม่ใช่แค่ความสะเพร่า แต่คือการทำลายความน่าเชื่อถือของกระบวนการยุติธรรมทั้งระบบ และคนที่เสียหายหนักที่สุดคือลูกความที่จ่ายเงินจ้างทนายให้มาต่อสู้คดีให้ตัวเอง
อีกมุมที่น่าคิดคือ การที่คนทำงานสายวิชาชีพที่ต้องใช้ความแม่นยำสูง ยังหลงเชื่อ output ของ AI แบบไม่ตรวจสอบเลย สะท้อนว่าปัญหาจริงไม่ใช่ตัว AI แต่อยู่ที่คนใช้ที่เอาเครื่องมือไปใช้ผิดวิธี แล้วพอพังก็โยนความผิดให้เทคโนโลยี
สำหรับคนที่ทำงานสายกฎหมายหรือเอกสารราชการทั้งหลาย นี่คือสัญญาณชัดเจนว่า AI ยังใช้เป็นผู้ช่วยร่างได้ แต่การตรวจสอบข้อเท็จจริงทุกบรรทัดยังเป็นหน้าที่ของมนุษย์เสมอ และถ้าคุณไม่ตรวจสอบแล้วมันพังขึ้นมา คำแก้ตัวว่า "ไม่รู้ว่า AI มั่วได้" ก็ไม่ช่วยอะไร
ปัญหาไม่เคยอยู่ที่ AI มั่ว แต่อยู่ที่คนที่เชื่อมันโดยไม่ตรวจสอบ แล้วพอพังก็โยนความผิดให้เทคโนโลยี — ในสายวิชาชีพที่คำผิดหนึ่งคำมีผลต่อชีวิตคนอื่น วิธีคิดแบบนี้ไม่มีที่ยืน
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...