เจาะลึก
AI Agents
AI Agent พังไม่ใช่เพราะโมเดลเพี้ยน แต่วิศวกรลืมเรื่องพวกนี้
วิศวกร OpenAI ชี้จุดตายของ agent ในโปรดักชันที่ไม่มีใครพูดถึง เพราะทุกคนมัวแต่โทษ hallucination
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ปัญหาจริงของ agent ไม่ได้อยู่ที่โมเดลคิดผิด แต่อยู่ที่ระบบรอบๆ มันไม่ได้ออกแบบมาให้คุมกันได้ตั้งแต่แรก
ทุกวันนี้เวลา AI agent ทำงานพลาดในโปรดักชัน คนส่วนใหญ่จะโทษโมเดลว่า hallucinate คิดเรื่องมั่วขึ้นมา แต่ Vinoth Govindarajan วิศวกรจาก OpenAI ออกมาพูดในงานนำเสนอผ่าน InfoQ ว่า ปัญหาจริงมันอยู่ลึกกว่านั้นเยอะ — และมันเป็นปัญหาสถาปัตยกรรม ไม่ใช่ปัญหาความฉลาดของโมเดล
ประเด็นที่เขาชี้คือ "agent harness" หรือพูดง่ายๆ ก็คือชั้นโครงสร้างที่ห่อหุ้มโมเดลไว้ ทำหน้าที่คุมว่า agent จะแตะ state อะไรได้ ใครเป็นเจ้าของ state นั้น และตอนไหนที่ต้องมีคนกดอนุมัติก่อนลงมือจริง ฟังดูเหมือนเรื่องวิศวกรรมแห้งๆ แต่ถ้าคุณเคย deploy agent ไปแล้วเจอปัญหาแบบงงๆ ว่าทำไมมันทำอะไรซ้ำซ้อน หรือแก้ข้อมูลทับกันจนเละ อันนี้คือคำตอบ
Govindarajan ยกเคสจริงอย่าง OpenClaw มาอธิบายว่า agent harness ที่เชื่อถือได้ต้องยึดหลักสำคัญ 4 ข้อ ซึ่งฟังแล้วก็ไม่ใช่เรื่องใหม่ในโลกวิศวกรรมซอฟต์แวร์เลย แต่มันคือสิ่งที่ทีม AI จำนวนมากมองข้ามเพราะมัวแต่โฟกัสที่ prompt engineering กับ model selection
กำหนดเจ้าของ state ให้ชัด
ต้องรู้แน่ๆ ว่าใครถือ state อะไร ไม่ปล่อยให้กำกวม เพราะพอ agent หลายตัวแตะ state เดียวกันโดยไม่มีเจ้าภาพชัดเจน ปัญหาจะตามมาแน่นอน
จัดคิวการแก้ state พร้อมกัน
เวลา agent หลายตัวจะแก้ state เดียวกันในเวลาไล่เลี่ยกัน ต้อง serialize ให้เป็นระเบียบ ไม่งั้นข้อมูลจะชนกันมั่ว
จำกัดขอบเขตอำนาจการทำงาน
agent ไม่ควรมีสิทธิ์แตะทุกอย่างในระบบ ต้อง scope สิทธิ์ให้แคบที่สุดเท่าที่จำเป็น
ตรวจสอบที่ขอบที่ผู้ใช้เห็น
การ validate ต้องเกิดตรงจุดที่ผู้ใช้จะเห็นผลลัพธ์จริง ไม่ใช่ตรวจลึกในระบบแล้วปล่อยผ่านออกไป
ที่ต้องพูดตรงๆ คือ ทั้ง 4 ข้อนี้มันคือหลักการวิศวกรรมระบบพื้นฐานที่วงการซอฟต์แวร์รู้กันมานานแล้ว — state ownership, concurrency control, principle of least privilege, edge validation แต่น่าขันที่พอเป็น AI agent ทีมจำนวนมากกลับลืมทั้งหมด แล้วไปนั่งจูน prompt กันเป็นวันๆ เหมือนปัญหาอยู่ที่คำพูดของโมเดล
นี่คือจุดที่ผมคิดว่า Govindarajan พูดถูกและควรค่าแก่การฟัง วงการ AI ตอนนี้มีอาการ "โมเดล-centric" เกินไป ทุกอย่างถูกวัดที่ benchmark ของโมเดล ถูกพูดถึงที่ความสามารถของโมเดล แต่พอ deploy จริง สิ่งที่ทำให้ระบบล่มกลับเป็นเรื่อง boringๆ อย่าง race condition หรือสิทธิ์ที่กว้างเกินไป
สำหรับคนที่กำลังสร้าง agent ไปใช้ในงานจริงอยู่ คำถามที่ควรถามตัวเองคือ ระบบของคุณมี control plane ที่ชัดเจนหรือยัง ใครเป็นเจ้าของ state แต่ละก้อน ถ้า agent สองตัวสั่งงานพร้อมกันจะเกิดอะไร และมีจุดไหนที่ต้องให้มนุษย์กดอนุมัติก่อนไหม ถ้าตอบไม่ได้สักข้อ ก็เตรียมตัวเจอปัญหาในโปรดักชันได้เลย
ถ้าคุณยังคิดว่า agent พังเพราะโมเดลโง่ คุณกำลังแก้ผิดจุด ปัญหาส่วนใหญ่ไม่ได้อยู่ที่โมเดลคิดเก่งแค่ไหน แต่อยู่ที่โครงสร้างรอบๆ มันออกแบบมาไม่ดีพอ — และนั่นเป็นงานของวิศวกร ไม่ใช่ของโมเดล
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...