เจาะประเด็น
AI / Legal Tech
คนไทยทั้งศาล! ลูกความหวัง AI ช่วยชนะคดี แต่ดันยัดพรอมป์ลงคำฟ้อง โดนผู้พิพากษาตำหนิเละ
คิดว่าศาลใช้ AI อ่านเอกสาร เลยแอบใส่คำสั่งซ่อนไว้ในคำร้อง ผลลัพธ์คือโดนด่าเละเทะ และกลายเป็นอุทาหรณ์ของคนที่เข้าใจเทคโนโลยีผิดๆ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
เรื่องนี้มันโคตรจะสมจริงกับยุค 2026 จนน่ากลัว ชายคนหนึ่งซึ่งเป็นคู่ความในคดี (แบบไม่มีทนาย เป็น "pro se" คือว่าความเอง) เกิดปิ๊งไอเดียสุดบรรเจิดว่า "ถ้าศาลมันใช้ AI อ่านเอกสารล่ะ? งั้นเราก็ใส่พรอมป์สั่งให้ AI ตัดสินให้เราชนะไปเลยสิ" ผลปรากฏว่าไอเดียไม่ได้แย่ที่คิด แต่เป็นเพราะเขาเข้าใจผิดไปไกลมาก 100%
คดีนี้เกิดขึ้นที่สหรัฐฯ โดยชายคนดังกล่าวยื่นเอกสารต่อศาลพร้อมกับซ่อนข้อความสั่งการ (prompt injection) ไว้ในเนื้อหาคำฟ้อง ข้อความเหล่านั้นไม่ได้เขียนเพื่อสื่อสารกับผู้พิพากษาคนธรรมดา แต่เขียนเพื่อสั่งการให้ "AI ที่เขาคิดว่าศาลใช้" ตอบสนองตามที่ต้องการ เช่น สั่งให้ตัดสินคดีเข้าข้างเขา หรือให้มองข้ามหลักฐานบางอย่าง
ฟังดูเหมือนฉากในหนังไซไฟ แต่ที่ตลกคือผู้พิพากษาที่เจอเรื่องนี้ไม่ได้โกรธแค่เรื่องมารยาท แต่ยังออกโรงเตือนแบบไม่ไว้หน้าเลยว่า "คู่ความที่ใช้แชทบอทกำลังใช้ผิดวิธี และเริ่มหมดหนทาง" นี่คือการตบหน้าวงการ legal tech แบบไม่ให้ฟื้น
รายงานจาก Ars Technica ระบุว่า ชายคนนี้ไม่ใช่คนแรกที่คิดจะใช้ AI ในการต่อสู้คดี แต่เขาเป็นคนแรกๆ ที่กล้า "แฮก" กระบวนการยุติธรรมด้วยการยัดพรอมป์เข้าไปในเอกสารราชการ แนวคิดของเขาคือ หากระบบศาลในอนาคตใช้ AI อ่านเอกสารจำนวนมาก AI ก็จะอ่านเจอคำสั่งซ่อนเหล่านี้และทำตามโดยอัตโนมัติ
ซึ่งมันก็จริงแหละ ว่าถ้าระบบมันโง่พอ มันก็อาจจะหลงเชื่อ แต่ปัญหาคือศาลไม่ได้ใช้ AI แบบนั้น และต่อให้ใช้ AI ก็คงมีระบบป้องกันเรื่องนี้อยู่แล้ว การกระทำของเขาจึงไม่ได้แค่ "ไม่ได้ผล" แต่ยังทำให้ตัวเองเสียเครดิตในสายตาผู้พิพากษาทันทีที่โดนจับได้
ผู้พิพากษาในคดีนี้ไม่ได้แค่ลงโทษหรือตักเตือนเบาๆ แต่กล่าวถึงพฤติกรรมนี้ในคำสั่งศาลอย่างชัดเจนว่าเป็นการ "กระทำที่ไม่เหมาะสม" และเตือนคู่ความคนอื่นๆ ว่าอย่าหาทำ เพราะมันไม่ใช่วิธีใช้ AI ให้เป็นประโยชน์ แต่คือการหาทางเอาเปรียบระบบซึ่งจะย้อนกลับมาทำร้ายตัวเอง
ตรงนี้แหละที่ฉันอยากฟันธง หลายคนมองว่าเรื่องนี้คือความโง่ของคนๆ เดียว แต่ฉันมองว่ามันคือสัญญาณเตือนของทั้งระบบ การที่คนธรรมดารู้สึกว่า "ต้องหาทางโกง AI" เพราะคิดว่าศาลใช้ AI ตัดสินแล้ว ไม่ได้แปลว่าเขาโง่คนเดียว แต่แปลว่า "ความเชื่อใจในระบบยุติธรรม" กำลังถูกกัดกร่อนด้วยความไม่เข้าใจเทคโนโลยี
ถ้าคนเริ่มคิดว่าผู้พิพากษาเป็นหุ่นยนต์หรือใช้ AI ตัดสินคดีแบบขาดมนุษย์ควบคุม นั่นคือวิกฤตศรัทธาที่ใหญ่กว่าการที่ใครบางคนยัดพรอมป์ในเอกสารเสียอีก ปัญหาไม่ได้อยู่ที่ "ชายคนนี้โง่" แต่อยู่ที่ "ทำไมเขาถึงคิดว่ามันจะได้ผล" และนั่นคือสิ่งที่วงการกฎหมายและเทคโนโลยีต้องตอบให้ได้
อีกแง่หนึ่ง เรื่องนี้ก็สะท้อนให้เห็นว่า "AI Literacy" หรือความเข้าใจเท่าทัน AI เป็นเรื่องจำเป็นระดับชาติ ไม่ใช่แค่ทักษะเสริมสำหรับเด็กจบใหม่ ถ้าคนที่ว่าความเองยังเข้าใจผิดขนาดนี้ แล้วคนทั่วไปจะใช้ AI ในชีวิตประจำวันได้อย่างถูกต้องและปลอดภัยได้ยังไง?
สุดท้ายนี้ ฉันไม่ได้บอกว่าอย่าใช้ AI ช่วยงานกฎหมาย เพราะมันมีประโยชน์จริง แต่จงจำไว้อย่างหนึ่งว่า AI ไม่ใช่เครื่องรางวิเศษ และการพยายาม "แฮก" ระบบด้วยพรอมป์ไม่ใช่ทางลัดสู่ชัยชนะ แต่มันคือทางลัดสู่การโดนศาลสั่งปรับและเสียชื่อเสียงต่างหาก
เรื่องนี้คือบทเรียนราคาแพงของคนที่คิดว่า AI จะแทนที่สามัญสำนึกได้ การใช้เทคโนโลยีให้ฉลาดไม่ใช่การหาช่องโหว่ แต่คือการรู้จักขีดจำกัดของมัน และที่สำคัญ ศาลไม่ได้โง่อย่างที่คิด อย่าหาทำเด็ดขาด
ที่มา: Ars Technica — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...