เจาะประเด็น
AI / Tools
เอา AI ตัดสินใจเรื่องเงินคน แล้วค่อยให้มันหาเหตุผลมาอ้างทีหลัง — นักพัฒนาคนนี้บอก "กลับด้านมันเถอะ"
โปรเจกต์จาก Hacker News แยก "ตัวตัดสิน" ออกจาก "ตัวอธิบาย" ออกจากกันชัดๆ เพราะเวลาถูกตรวจสอบ คุณต้องการความแน่นอน ไม่ใช่คำอธิบายที่ฟังดูดี
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
คำถามจริงๆ ของข่าวนี้ไม่ใช่ว่า AI เก่งแค่ไหน แต่คือ "ถ้าถูกเรียกไปสอบ คุณอธิบายได้ไหมว่าทำไมระบบถึงตัดสินแบบนั้น"
เราคิดกันไปแล้วว่าโลกนี้จะให้ LLM ตัดสินใจทุกอย่าง แต่มีคนกลุ่มหนึ่งที่ทำงานสายอนุมัติสินเชื่อ ตรวจจับทุจริต หรือคัดแยกผู้ป่วย แล้วรู้สึกไม่สบายใจกับแนวทางที่ทีมส่วนใหญ่ใช้กัน นั่นคือ เอาปัญญาประดิษฐ์ไปเป็นตัวตัดสินก่อน แล้วค่อยไปแปะ "guardrail" ทีหลังเพื่อคุมไม่ให้มันหลุด
คนที่เขียนโปรเจกต์นี้ขึ้นมาบน Hacker News บอกตรงๆ ว่าเขาเห็นทีมงานทำแบบนั้นซ้ำแล้วซ้ำเล่า — เอาโมเดลภาษาไปนั่งเป็นคนตัดสินใจในเรื่องที่ต้องตรวจสอบย้อนหลังได้ แล้วก็พยายามหาวิธีมาอธิบายทีหลังว่าทำไมมันถึงตัดแบบนั้น ซึ่งพอถึงเวลาจริง มันไม่พอ
สิ่งที่เขาเสนอชื่อว่า ai·rete·rag คือการแยกงานออกเป็นสองส่วนที่ทำงานต่อกันเป็นทอด ไม่ใช่ให้ AI ตัดสินใจแล้วมาหาเหตุผลทีหลัง
ตัวตัดสิน (Rete Engine)
เป็นเอนจินที่เขียนด้วย Python ล้วน ประเมินกฎที่เขียนไว้ในไฟล์ YAML เทียบกับข้อมูลที่ป้อนเข้าไป ผลลัพธ์มาจากตรงนี้ที่เดียว ข้อมูลเดิม ผลลัพธ์เดิม ทุกครั้งที่รัน และมีกลไกจัดการกฎที่ขัดกันด้วยน้ำหนักความสำคัญ (salience)
ตัวอธิบาย (RAG + LLM)
ค่อยไปดึงข้อความจากเอกสารนโยบายของคุณ แล้วให้ LLM เขียนคำอธิบายเป็นภาษาคนว่า "ทำไมผลลัพธ์นี้ถึงออกมาแบบนี้" พร้อมอ้างอิงข้อความที่ดึงมา จุดสำคัญคือมันเปลี่ยนผลลัพธ์ไม่ได้
ฟังดูเรียบง่าย แต่จริงๆ นี่คือการกลับทิศทางของสิ่งที่หลายทีมทำกันอยู่ ประเด็นไม่ได้อยู่ที่ว่า LLM อธิบายเก่งหรือไม่ แต่อยู่ที่ว่าผลลัพธ์ต้องไม่ขึ้นกับอารมณ์ของโมเดลในวันนั้น ข้อมูลชุดเดิมต้องได้ผลเดิมเสมอ นี่คือสิ่งที่คนทำงานสายตรวจสอบต้องการ แต่สิ่งที่ทีมส่วนใหญ่กลับทำคือปล่อยให้โมเดลตัดสินก่อน แล้วค่อยมาเขียนคำอธิบายสวยๆ ทีหลัง
คนเขียนโปรเจกต์เล่าว่ามีบางอย่างที่ทำไปไกลกว่าที่คิดไว้ตอนแรก
กฎเป็นกราฟ ไม่ใช่ลิสต์แบน
รองรับการซ้อน all/any/not และกฎหนึ่งสามารถสร้างข้อเท็จจริงใหม่ให้กฎอื่นนำไปใช้ต่อได้ (forward chaining) ส่วน decision trace จะโชว์ห่วงโซ่เหตุและผลให้เห็นว่าอะไรนำไปสู่อะไร
โหมดตรวจสอบ (Audit mode)
บันทึกทุกกฎที่ถูกประเมิน รวมถึงกฎที่ไม่ได้ถูกใช้ ไล่ทีละเงื่อนไข พร้อมสแนปช็อตของชุดกฎไว้เล่นซ้ำได้ — อันนี้คือสิ่งที่คนสอบบัญชีอยากได้จริงๆ
กฎสั่งการดึงข้อมูลได้
กฎที่ถูกใช้สามารถจำกัดขอบเขตว่าดึงเอกสารไหนมาอ้างอิง และข้อความที่ดึงมาก็แปลงกลับเป็นข้อเท็จจริงให้เอนจินใช้ต่อได้
คนไม่เขียนโค้ดก็สร้างกฎได้
มีตัวแก้ไขแบบ visual หรือจะวางเอกสารนโยบายลงไปให้ LLM ร่างกฎพร้อม citation ให้ — แต่ร่างที่ได้จะไม่ถูกบันทึกจนกว่าจะมีคนตรวจ ส่วนวิศวกรก็ยังใช้ YAML ได้อยู่
จุดที่ผมว่าฉลาดคือการออกแบบให้ "ร่างกฎ" ต้องผ่านการรีวิวก่อนบันทึก เพราะถ้าปล่อยให้ LLM เขียนกฎเองแล้วใช้เลย นั่นก็คือกลับไปสู่ปัญหาเดิม — คนที่ตัดสินใจจริงๆ กลายเป็นโมเดลที่ไม่มีใครตรวจสอบได้
เขามีหน้า landing page ที่มีเดโมใช้ได้เลยไม่ต้องสมัคร 8 โดเมน ได้แก่ สินเชื่อ ทุจริต คลินิก ประกัน กฎหมาย ปฏิบัติการ อีคอมเมิร์ซ และบล็อกเชน แถมยังมี MCP server ให้ Claude กับเอเจนต์อื่นเรียก /decide เป็นเครื่องมือได้ด้วยคำสั่งเดียว
แต่ต้องพูดให้ชัด เขาบอกเองว่าเป็น hosted product ที่มี free tier ตัว MCP client เป็นโอเพนซอร์ส (MIT) ส่วนเอนจินกับแพลตฟอร์มยังไม่โอเพนซอร์สตอนนี้ อันนี้คือประเด็นที่ต้องจับตา เพราะคนที่ทำงานสายตรวจสอบมักต้องการเห็นโค้ดจริง ไม่ใช่แค่เชื่อคำโฆษณา
คำถามที่เขาโยนทิ้งท้ายน่าสนใจกว่าตัวโปรดักต์เสียอีก เขาถามตรงๆ ว่าอยากฟังจากคนที่เคยต้องอธิบายการตัดสินใจอัตโนมัติให้หน่วยงานกำกับหรือผู้ตรวจสอบฟังว่า "เขา asked อะไรจริงๆ"
เพราะคำตอบของคำถามนี้แหละที่จะบอกว่าโปรเจกต์แบบนี้จะกลายเป็นของจริงในองค์กรหรือเป็นแค่ของเล่นใน Hacker News หน่วยงานกำกับส่วนใหญ่ไม่ได้ถามว่าโมเดลใช้เทคนิคอะไร เขาถามว่า "ถ้าข้อมูลเดิมเข้ามาใหม่ ระบบจะให้ผลเดิมไหม" กับ "ใครแก้กฎได้ และแก้เมื่อไหร่" สองคำถามนี้คือสิ่งที่ Rete engine ตอบได้ แต่ LLM ตอบไม่ได้
ผมว่าทิศทางนี้ถูกต้อง — แยก "ตัวตัดสิน" ออกจาก "ตัวอธิบาย" ให้ชัด แล้วให้ LLM ทำหน้าที่แค่เล่าเรื่องจากสิ่งที่ตัดสินไปแล้ว ไม่ใช่ให้มันตัดสินแล้วหาเหตุผลมาอ้างทีหลัง แต่มันจะพิสูจน์ตัวเองได้ก็ต่อเมื่อมีคนทำงานสายตรวจสอบจริงๆ มาบอกว่า audit mode แบบนี้พอสำหรับการถูกสอบหรือยัง และการที่เอนจินยังปิดอยู่ก็เป็นกำแพงที่ต้องข้าม ถ้าอยากให้คนไว้ใจพอจะเอาไปใช้กับเรื่องเงินคนจริงๆ
ที่มา: Hacker News (Coding/Agent) — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...