เจาะประเด็น
AI / Observability
เอเจนต์ AI พังไม่รู้ตัว เพราะทีมส่วนใหญ่ยังไม่รู้จะดูรอยอะไรตอนมันพัง
Session trace กับตัวคุมค่าใช้จ่าย กำลังกลายเป็นเครื่องมือหลักในการตามหาว่าตกลงเอเจนต์ของเราไปวนอยู่ตรงไหน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ต่อให้โมเดลฉลาดแค่ไหน ถ้าทีมมองไม่เห็นว่ามันเรียกเครื่องมืออะไรไปกี่รอบและเผาเงินไปเท่าไหร่ การดีบักก็กลายเป็นการเดาสุ่มอยู่ดี
เอเจนต์ AI กำลังเป็นของเล่นใหม่ที่ทุกทีมอยากเอาไปใช้ทำงานแทนคน แต่พอใช้จริงแล้วมันพังขึ้นมา หลายทีมกลับตอบไม่ได้ว่ามันพังเพราะอะไร นี่คือช่องว่างที่ข่าวจาก InfoQ ชี้ว่า session traces กับ cost controls กำลังถูกยกขึ้นมาเป็นเทคนิค observability หลักสำหรับวินิจฉัยความล้มเหลวของเอเจนต์
พูดง่ายๆ คือ การดูว่าเอเจนต์ทำงานพลาดตรงไหนมันไม่ง่ายเหมือนเปิด log ของเซิร์ฟเวอร์ธรรมดา เพราะเอเจนต์ไม่ได้รันโค้ดเส้นเดียวจบ แต่มันตัดสินใจเอง เรียกเครื่องมือเอง วนซ้ำเอง บางทีก็วนแบบไม่รู้จบด้วย สิ่งที่ทีมต้องการคือ "ร่องรอยการทำงาน" ที่พอจะย้อนดูได้ว่ามันคิดอะไรอยู่ระหว่างทาง
สองอาการที่ข่าวระบุว่าทีมมักเจอคือ tool-call loops กับ runaway spend อย่างแรกคือเอเจนต์เรียกเครื่องมือเดิมซ้ำไปซ้ำมาแบบไม่จบไม่สิ้น อย่างที่สองคือค่าใช้จ่ายบานปลายออกนอกการควบคุมแบบที่ไม่มีใครรู้ตัวจนกว่าจะเห็นบิล
ทั้งสองอย่างนี้เป็นปัญหาที่ต่างจากบั๊กซอฟต์แวร์ทั่วไปตรงที่มันไม่ใช่โค้ดพัง แต่มันคือ "พฤติกรรม" ของเอเจนต์ที่เพี้ยนไป ถ้าไม่มีข้อมูลระดับ session ให้ย้อนดู ก็เท่ากับดีบักด้วยการเดา ซึ่งโคตรเปลืองเวลาและเปลืองเงิน
ประเด็นที่ผมคิดว่าน้ำหนักที่สุดในข่าวนี้คือคำว่า "preserving enough execution context" — คือการเก็บบริบทการทำงานไว้ให้มากพอสำหรับการดีบักหลังเกิดเหตุ ไม่ใช่เก็บทุกอย่างจนล้น แต่เก็บให้พอที่ตอนมีคนถามว่า "เมื่อวานเอเจนต์ทำไมตอบมั่ว" เราจะมีอะไรให้ย้อนดูได้
นี่คือจุดที่ทีมส่วนใหญ่พลาด เพราะตอนพัฒนาเราสนใจแค่ทำให้เอเจนต์ทำงานได้ แต่พอขึ้นโปรดักชันจริงกลับไม่มีกลไกดูพฤติกรรมมันเลย เอเจนต์เลยกลายเป็นกล่องดำที่กินเงินไปเรื่อยๆ โดยที่เราไม่รู้ว่าข้างในเกิดอะไร
อีกอย่างคือเรื่องนี้สะท้อนว่าวงการกำลังขยับจาก "ทำเอเจนต์ให้เก่ง" ไปสู่ "ทำเอเจนต์ให้คุมได้" ซึ่งเป็นวุฒิภาวะที่จำเป็นมาก ก่อนที่ทุกองค์กรจะเจอกรณีเอเจนต์เผางบประมาณแบบไม่ทันตั้งตัว
เอเจนต์ AI จะใช้ได้จริงในองค์กรก็ต่อเมื่อเรามองเห็นและควบคุมมันได้ ไม่ใช่แค่ปล่อยให้มันทำงานแล้วภาวนาว่าอย่าพัง ถ้ายังไม่มี trace กับตัวคุมค่าใช้จ่าย ก็อย่าเพิ่งบอกว่าทีมคุณพร้อมใช้เอเจนต์จริงจัง
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...