เจาะประเด็น
AI / Legal
ศาลแรงงานออสซี่ฟาด AI ให้คำปรึกษากฎหมาย "ผิดแบบไม่มีความผิด"
เมื่อ AI ตอบกฎหมายมั่วๆ แล้วคนเชื่อตาม ใครจะรับผิดชอบ?
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ยุคที่ AI ตอบกฎหมายมั่วแล้วคนเชื่อตามกันหมด คำถามคือเราจะรู้ได้ยังไงว่ามันเพ้อ หรือเราจะต้องโดนบทเรียนราคาแพงก่อน?
เรื่องนี้มันไม่ได้ตลกเลยนะ เพื่อนๆ คณะกรรมการ Fair Work Commission (FWC) ของออสเตรเลีย ซึ่งก็คือหน่วยงานสูงสุดด้านแรงงานสัมพันธ์ของเขา ต้องออกโรงประณาม AI ที่ให้คำแนะนำด้านกฎหมายกับคนทำงานรายหนึ่ง แล้วกลายเป็นว่าคำแนะนำนั้นมัน "ผิดแบบไม่มีทางแก้" หรือในภาษากฎหมายเขาว่า "plain wrong" ฟังดูสุภาพแต่แรงได้ใจจริงๆ
เรื่องมันเริ่มจากพนักงานคนหนึ่งที่โดนเลิกจ้าง แล้วเขาก็ไปใช้บริการ AI บางตัว (ต้นฉบับไม่ได้ระบุยี่ห้อ แต่เดาได้ว่าเป็นแชตบอตแบบที่เราใช้ๆ กันอยู่) เพื่อถามว่าตัวเองมีสิทธิ์อะไรบ้างตามกฎหมายแรงงาน แล้วเจ้า AI ก็ตอบกลับมาอย่างมั่นใจ ให้ข้อมูลที่ดูน่าเชื่อถือ แต่ความจริงมันผิดมหันต์ เป็นการให้คำแนะนำที่ "ผิดแบบพลาดทั้งกระดาน" จนทำให้พนักงานคนนั้นหลงผิดและดำเนินการตามนั้น
ตรงนี้คือจุดที่มันน่ากลัวและน่าสนใจมากๆ เพราะมันไม่ใช่แค่เรื่อง "AI ให้ข้อมูลผิด" ซึ่งเราคุ้นเคยกันดีอยู่แล้ว แต่เป็นเรื่องที่ FWC ซึ่งเป็นศาลแรงงานจริงๆ ต้องออกมาประณามเป็นลายลักษณ์อักษร และเขายังพูดอีกว่า "คนที่ให้คำแนะนำแบบนี้มันทำให้กระบวนการยุติธรรมเสียหาย" ฟังดูเป็นทางการแต่ผลกระทบมันระดับที่คนธรรมดาอย่างเราๆ อาจจะไม่ได้คิดถึง
ผมว่าเรื่องนี้มันสะท้อนอะไรบางอย่างที่ใหญ่กว่านั้นมาก เราเข้าสู่ยุคที่คนเริ่มไว้ใจ AI กับเรื่องสำคัญๆ ในชีวิต โดยเฉพาะเรื่องกฎหมาย เรื่องเงิน เรื่องสิทธิของตัวเอง แล้ว AI ก็ตอบกลับมาด้วยน้ำเสียงที่มั่นใจ ราวกับว่ามันรู้ทุกอย่าง ซึ่งมันไม่รู้ และที่แย่กว่านั้นคือ มันไม่รู้ว่าตัวเองไม่รู้
ก็เหมือนกับที่ FWC เขาพูดไว้ในคำตัดสิน ประเด็นไม่ได้อยู่ที่ว่า AI ทำผิด แต่เป็นที่ว่าใครจะรับผิดชอบเมื่อมันผิด แล้วคนที่ได้รับความเสียหายจะไปเรียกร้องอะไรกับใครได้บ้าง เพราะสุดท้าย AI ไม่ใช่ทนายความ ไม่มีใบอนุญาต และไม่มีใครต้องรับผิดชอบถ้ามันตอบมั่ว
จริงอยู่ที่ AI ช่วยให้การเข้าถึงข้อมูลกฎหมายง่ายขึ้นมาก เดี๋ยวนี้ใครๆ ก็ถาม ChatGPT ได้ แต่ความง่ายที่ว่านี้มันมาพร้อมกับความเสี่ยงที่มองไม่เห็น โดยเฉพาะกับคนที่ไม่ได้มีพื้นฐานกฎหมายมาก่อน จะรู้ได้ยังไงว่าคำตอบที่ได้มันถูกต้องหรือเปล่า จะรู้ได้ยังไงว่ามันไม่ได้ "หลอน" (hallucinate) ขึ้นมาเอง
และนี่คือสิ่งที่ FWC พยายามจะสื่อ เขาไม่ได้บอกว่า "อย่าใช้ AI" แต่เขากำลังบอกว่า "ถ้าจะใช้ ก็ต้องรู้เท่าทันว่ามันอาจจะผิดได้" เหมือนกับที่เราไม่ควรใช้กูเกิลค้นหาอาการป่วยแล้วรักษาตัวเองตามนั้นโดยไม่ไปหาหมอ กฎหมายก็เช่นกัน มันซับซ้อนและมีรายละเอียดปลีกย่อยที่ AI ยังไม่สามารถแทนที่มนุษย์ได้
บทเรียนจากคดีนี้
ถ้าเรื่องมันเกี่ยวกับสิทธิหรือเงินทอง อย่าไว้ใจ AI เป็นที่พึ่งสุดท้าย ให้ปรึกษามนุษย์ที่มีใบอนุญาตจริงๆ ต่อให้เสียเงินก็คุ้มกว่าการเสียสิทธิ
ที่สำคัญอีกอย่างคือ มันเป็นสัญญาณเตือนสำหรับนักพัฒนา AI ด้วยว่า ถ้าจะปล่อยให้ AI ตอบคำถามด้านกฎหมายหรือการเงินแบบไม่ได้จำกัดขอบเขต ก็ต้องมีระบบป้องกันไม่ให้มันมั่ว หรืออย่างน้อยก็ต้องมีคำเตือนชัดเจนว่า "คำตอบนี้อาจไม่ถูกต้อง ควรปรึกษาผู้เชี่ยวชาญ" ไม่งั้นแบบนี้ก็จะเกิดซ้ำแล้วซ้ำเล่า
ผมฟันธงเลยว่า ต่อให้ AI จะฉลาดแค่ไหน มันก็ยังเป็นแค่เครื่องมือ ไม่ใช่ที่ปรึกษา และถ้าใครยังคิดว่า "ถาม AI แล้วเชื่อหมด" โดยเฉพาะเรื่องกฎหมายแบบนี้ บอกได้เลยว่าวันหนึ่งคุณจะเจอเรื่องแบบพนักงานคนนี้แน่นอน เรื่องนี้เป็นกรณีศึกษาที่ดีที่สุดของคำว่า "Garbage in, Garbage out" แต่เวอร์ชันที่มันแพงกว่าและส่งผลถึงชีวิตความเป็นอยู่จริงๆ
ที่มา: ABC News Australia — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...