เจาะประเด็น
AI / Research
AI ผู้ตรวจสอบตาบอด: LLM เห็นแต่ "สิ่งที่เขียน" ไม่เห็น "สิ่งที่หายไป" ในเวชระเบียน
งานวิจัยใหม่ชี้ให้เห็นจุดบอดร้ายแรงของโมเดลภาษาที่ใช้ประเมินคุณภาพข้อมูลทางการแพทย์ — มันเก่งเรื่องเช็คว่ามีอะไร แต่แทบไม่รู้เลยว่าอะไรควรมีแต่ดันไม่มี
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเครื่องมือตรวจการบ้านไม่รู้ว่าข้อไหนคือคำตอบที่ถูกลืม มันจะจับผิดได้จริงหรือ หรือแค่ชมว่านักเรียนทำครบทั้งที่ดันลืมข้อหลังสุด?
หม้อดนี้คือเรื่องของ "Omission Blindness" หรือถ้าให้พูดภาษาคนก็คือ "ตาบอดต่อสิ่งที่หายไป" — งานวิจัยที่เพิ่งถูกแชร์บน Hacker News ชี้ให้เห็นว่า LLM ที่เราวางใจให้ช่วยตรวจเวชระเบียนหรือประเมินคุณภาพข้อมูลทางการแพทย์นั้น มีจุดอ่อนมหันต์ที่เราอาจมองข้ามกันมานาน
พูดง่ายๆ คือ โมเดลอย่าง GPT หรือ Claude ที่ถูกสอนให้ "ตรวจสอบ" ข้อมูลนั้น มันถนัดมากในการยืนยันว่าสิ่งที่อยู่ในเอกสารถูกต้องหรือไม่ แต่พอถึงจุดที่ต้องจับได้ว่า "ข้อมูลสำคัญบางอย่างมันดันไม่ได้ถูกบันทึกไว้เลย" — โมเดลเหล่านี้กลับทำได้แย่มาก หรือแทบจะมืดบอดเลยทีเดียว
ลองนึกภาพตามนะ สมมติคุณเป็นหมอที่ต้องเขียนเวชระเบียนคนไข้รายหนึ่ง ซึ่งในนั้นต้องมีประวัติการแพ้ยา แต่ด้วยความเร่งรีบหรืออะไรก็ตาม คุณดันลืมบันทึกส่วนนี้ไป แล้วส่งให้ AI ช่วยตรวจทานว่าเอกสารครบถ้วนไหม — AI ตอบกลับมาว่า "ทุกอย่างเรียบร้อยดี ครบถ้วนสมบูรณ์" ทั้งที่ความจริงมันขาดข้อมูลสำคัญที่อาจคร่าชีวิตคนไข้ได้ถ้าหมอคนอื่นมาเจอเคสนี้ต่อ
ทีมนักวิจัยพบว่า การเทรนโมเดลด้วยวิธีมาตรฐานอย่าง RLHF (Reinforcement Learning from Human Feedback) หรือการทำ Supervised Fine-tuning นั้น สอนให้โมเดลตอบสนองต่อ "สิ่งที่เห็นใน prompt" เป็นหลัก โมเดลเรียนรู้แพทเทิร์นว่าถ้าเห็นข้อมูลชุดนี้ ควรตอบแบบนี้ — แต่มันไม่เคยถูกสอนให้ตั้งคำถามกับ "สิ่งที่ไม่มีอยู่" ในข้อมูล เพราะโดยธรรมชาติของภาษาแล้ว การ "ไม่มีอะไร" มันไม่ทิ้งร่องรอยให้โมเดลได้เรียนรู้
นี่ไม่ใช่แค่ปัญหาเชิงเทคนิคที่น่าเบื่อ แต่คือความเสี่ยงระดับชีวิตคน ถ้าเราจะใช้ AI เป็นผู้ช่วยวินิจฉัยหรือตรวจสอบความถูกต้องของข้อมูลทางการแพทย์จริงจัง เรากำลังวางใจระบบที่ "ตาบอดข้างหนึ่ง" อยู่โดยไม่รู้ตัว
จริงๆ แล้วเรื่องนี้มันสะท้อนอะไรได้ลึกกว่าวงการแพทย์เยอะนะ เพราะหลักการเดียวกันนี้ใช้ได้กับทุกสายงานที่เริ่มพึ่งพา AI ในการตรวจทานงาน ไม่ว่าจะเป็นทนายความที่ใช้ AI เช็คสัญญา นักวิเคราะห์ที่ให้ AI ตรวจรายงาน หรือแม้แต่นักข่าวที่ให้ AI ช่วยหาข้อมูลผิดพลาด — ทุกคนกำลังเผชิญกับปัญหาเดียวกันคือ AI บอกได้แค่ "ที่มีอยู่ ถูกหรือผิด" แต่บอกไม่ได้ว่า "ที่ควรมี แต่ไม่มี คืออะไร"
แล้วเราจะแก้ยังไง? งานวิจัยนี้ไม่ได้ให้คำตอบสำเร็จรูป แต่เท่าที่เห็น แนวทางหนึ่งคือการเปลี่ยนวิธีถาม อย่าถาม AI ว่า "เอกสารนี้ครบถ้วนไหม" เพราะมันจะตอบว่า "ครบ" เสมอ ให้ถามเฉพาะเจาะจงลงไปเลย เช่น "ในเอกสารนี้มีประวัติการแพ้ยาหรือไม่" หรือ "มีผลตรวจ Lab วันที่ 15 หรือไม่" — การบังคับให้มันค้นหาทีละรายการจะช่วยลดอาการตาบอดนี้ลงได้บ้าง
อีกทางคือการเทรนโมเดลด้วยข้อมูลที่จงใจสร้าง "ช่องว่าง" ให้มันเห็นตัวอย่างว่า การไม่มีข้อมูลสำคัญหน้าตาเป็นแบบไหน ซึ่งจะช่วยให้โมเดลเรียนรู้ที่จะ detect "ความผิดปกติจากการขาดหาย" ได้ดีขึ้น — แต่นั่นก็หมายถึงงานอีกมหาศาลที่ต้องลงมือทำก่อนจะไว้ใจระบบได้เต็มร้อย
ส่วนตัวผมคิดว่า เรื่องนี้เป็นบทเรียนสำคัญว่าเรากำลังรีบใช้ AI ในจุดที่มันยังไม่พร้อม โดยเฉพาะงานที่ "การมองไม่เห็น" มีต้นทุนสูงแบบนี้ การใช้ AI เป็นแค่เครื่องมือช่วยเสริมความเร็วก็พอ แต่อย่าเพิ่งคิดแทนมนุษย์ในขั้นตอนที่ต้องใช้ดุลยพินิจว่า "อะไรขาดไป" เพราะถึงวันนี้ AI ยังไม่รู้จักคำว่าความครบถ้วนจริงๆ หรอก
สรุปคือ — AI ในตอนนี้เป็นผู้ตรวจสอบที่ "เก่งแต่ไม่ครบเครื่อง" เชื่อได้แค่ครึ่งเดียว งานที่พลาดแล้วแก้ไขไม่ได้ โดยเฉพาะวงการแพทย์ ยังไงก็ต้องมีมนุษย์คอยทวนอีกชั้นเสมอ อย่างน้อยจนกว่าวันที่โมเดลจะเรียนรู้ที่จะเห็น "ความว่างเปล่า" เป็นข้อมูลชนิดหนึ่งได้จริงๆ
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...