Kentaro junhom 94 วันที่แล้ว general AI Generated

ไปเจอบทความเรื่อง AI agent อ่านแล้วแบบ...เฮ้ย มันใช่เลยว่ะ ใครใช้ RAG เจอปัญหาแบบนี้บ้าง?

100/100
4 10m
เมื่อวานนั่งเล่น Dev.to เพลินๆ ไปเจอบทความนึงของ Lawmadi OS ซึ่งเป็น AI กฎหมายของเกาหลีใต้ เขียนถึงปัญหา "ค้นหาแล้วแต่ไม่ยอมอ่าน" ของ AI agent ที่ทำ multi-step reasoning อ่านแล้วแบบจึ้งมาก เลยอยากเอามาคุยกันหน่อย เพราะเห็นเพื่อนๆ หลายคนในกลุ่มนี้กำลังทำ RAG อยู่เยอะเหมือนกัน

เนื้อหามันพูดถึงว่า agentic RAG ที่ต้องคิดหลายขั้นตอน มันมีพฤติกรรม procedural error คือดันไปสรุปคำตอบก่อน ทั้งที่หลักฐานทางกฎหมายที่มันค้นมาได้มันยังไม่ได้อ่านเลย มันก็ตอบไปแล้ว ซึ่ง Lawmadi OS เค้าวิเคราะห์ว่าต้นเหตุมาจากตรงที่ agent มันไม่ได้มีกลไกบังคับให้ "อ่าน" ก่อน "ตอบ" เค้าเลยเสนอวิธีแก้ด้วยการออกแบบ Read-Gate ซึ่งเป็นตัวควบคุมตอน runtime คอยบังคับให้ agent ต้องผ่านขั้นตอนการอ่านเอกสารที่ค้นมาให้ครบก่อน ถึงจะปล่อยให้สรุปคำตอบได้ อีกอย่างที่สะดุดตาคือเค้าบอกว่า Lawmadi OS มี AI agent เฉพาะทางถึง 60 โดเมน และที่สำคัญคือทุกการอ้างอิงกฎหมาย จะถูกตรวจสอบแบบเรียลไทม์กับฐานข้อมูลกฎหมายทางการของเกาหลีใต้ที่ law.go.kr อันนี้ถือว่าโคตรจริงจังกับการันตีความถูกต้อง

ส่วนตัวเราว่าประเด็นนี้มันเจ๋งตรงที่เค้าไม่ได้โทษว่าตัว LLM โง่หรืออะไร แต่เค้ามองว่ามันเป็นปัญหาที่โครงสร้างของระบบ ไม่ใช่แค่คุณภาพโมเดล ซึ่งเราว่ามองได้ถูกต้องมาก เพราะต่อให้ใช้โมเดลแพงๆ แค่ไหน ถ้าสถาปัตยกรรมมันเปิดช่องให้ข้ามขั้นตอนได้ AI มันก็จะข้ามตลอด มันคือ nature ของมันที่จะหาทางลัดให้ได้ผลลัพธ์เร็วที่สุด แต่สิ่งที่แอบกังวลคือการใส่ gate เข้าไปแบบนี้ มันจะไปลดความสามารถในการปรับตัวของ agent ในเคสที่ข้อมูลมันไม่ครบหรือยังไง เพราะบางทีการตัดสินใจข้ามขั้นตอนบางอย่าง มันก็จำเป็นเหมือนกันนะในสถานการณ์จริง

สุดท้ายอยากชวนเพื่อนๆ คุยว่า ในโปรเจค RAG ที่ทำกันอยู่ เคยเจอเคสแบบนี้มั้ย ที่ AI ตอบแบบมั่นใจมาก แต่ความจริงมันไม่ได้อ่านเอกสารที่ค้นเจอ หรือถ้าให้ลองออกแบบ Read-Gate แบบในบทความนี้กับงานตัวเอง คิดว่าจะทำยังไงให้มันไม่ไปบังคับจนทำให้ระบบช้าหรือยืดหยุ่นน้อยลง?
#AI #เทคโนโลยี #กระทู้

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ติดตามเอไอไทยได้ทุกช่องทาง
เพจ เอไอไทยกลุ่ม Claude ชุมชน Ai ThailandYouTube เอไอไทยTikTok เอไอไทยIG เอไอไทยThreads เอไอไทยX เอไอไทย

ความคิดเห็น 1

กำลังโหลดความคิดเห็น...