เจาะประเด็น
AI / Data Engineering
AI Agent กินโทเค็นมโหฬาร: โจทย์ใหญ่ที่วงการ Data ต้องตอบให้ได้ก่อนสายเกิน
TOTVS เผยแนวทางเตรียมข้อมูลองค์กรให้พร้อมรับ AI Agent ยุคใหม่ ที่ทั้งแม่นยำ ปลอดภัย และไม่ทำให้งบบานปลาย
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคุณคิดว่าแค่ต่อ LLM เข้ากับฐานข้อมูลก็จบแล้ว ขอให้อ่านอันนี้ก่อน ไม่งั้นค่าใช้จ่ายรายเดือนจะทำให้คุณนอนไม่หลับ
เริ่มกันที่คำถามง่ายๆ: คุณเคยคิดไหมว่า AI Agent หนึ่งตัวเวลาทำงานจริงมันกินโทเค็นมากแค่ไหน? ไม่ใช่แค่ถาม-ตอบธรรมดา แต่คือการวิเคราะห์, วางแผน, เรียกใช้เครื่องมือ, ดึงข้อมูลจากหลายแหล่ง แล้วประมวลผลทั้งหมดพร้อมกัน
คำตอบคือ "มหาโหด" และถ้าองค์กรของคุณคิดจะปล่อย AI Agent ให้ทำงานกับข้อมูลธุรกิจจริงโดยไม่ได้เตรียมตัว เตรียมเจอค่าใช้จ่ายที่ทำเอาผู้บริหารถึงกับหน้ามืดตามกันเป็นทิวแถวได้เลย
ประเด็นนี้ไม่ใช่เรื่องไกลตัวอีกต่อไป เพราะ Fabiane Nardon จาก TOTVS บริษัทซอฟต์แวร์รายใหญ่ของบราซิล เพิ่งขึ้นเวที InfoQ พูดถึงเรื่องนี้ตรงๆ ว่าเขาจัดการข้อมูลองค์กรขนาดใหญ่ให้พร้อมรับ AI Agent ที่หิวโหยโทเค็นได้ยังไง และที่สำคัญคือทำยังไงให้มัน "คุ้มค่า"
ฟังจากที่ Nardon เล่า ปัญหาหลักของข้อมูลระดับองค์กรคือมันไม่ได้สะอาดและพร้อมใช้งานง่ายๆ ระบบ Transactional ดั้งเดิมถูกออกแบบมาเพื่อความเร็วและความถูกต้องของการบันทึกธุรกรรม ไม่ได้ถูกออกแบบมาให้ AI มาดึงไปวิเคราะห์แบบเรียลไทม์ การจะให้ AI Agent ทำงานได้ฉลาดจริง ต้องมีทั้งข้อมูลที่ถูกต้อง, บริบทที่ครบถ้วน และระบบที่ตอบสนองได้ไวพอ
สิ่งที่เขาพูดถึงมีตั้งแต่การใช้ Data Mesh เพื่อกระจาย ownership ของข้อมูลให้แต่ละทีมดูแลข้อมูลของตัวเอง ไม่ใช่รอแต่ทีมกลาง แล้วต่อด้วยสถาปัตยกรรมฐานข้อมูลที่ latency ต่ำเพื่อให้ AI ดึงข้อมูลได้ทันทีโดยไม่ต้องรอ query ยาวๆ วนไปมาหลายรอบ
แต่นั่นยังไม่ใช่ส่วนที่น่าสนใจที่สุด สิ่งที่ Nardon พูดถึงแล้วทำให้คนฟังต้องคิดตามคือการใช้ Semantic Ontology และการเลือกใช้ MCP (Model Context Protocol) แบบ Dynamic
ก่อนอื่นต้องเข้าใจก่อนว่า MCP คือมาตรฐานที่ให้ AI Agent สามารถ "ต่อ" เข้ากับเครื่องมือหรือแหล่งข้อมูลภายนอกได้เหมือน USB-C ของโลก AI แต่อย่าพึ่งตื่นเต้นไป เพราะแค่ต่อได้อย่างเดียวไม่พอ
ประเด็นที่ Nardon สื่อคือการเลือก MCP tool แบบ "ไดนามิก" ไม่ใช่เลือกมาครั้งเดียวแล้วใช้ตลอดไป ต้องมีการประเมินตลอดเวลาว่าบริบทไหนควรใช้เครื่องมือตัวไหน เพื่อลดขนาด context window ที่ต้องส่งให้ LLM ประมวลผล เพราะทุกคำที่ใส่เข้าไปคือเงินทั้งนั้น
ลองคิดตามง่ายๆ: ถ้า AI Agent ต้องดึงข้อมูลจากระบบ ERP ทั้งหมดเพื่อตอบคำถามแค่ว่า "ยอดขายเดือนนี้เป็นไงบ้าง" มันจะกินโทเค็นมหาศาลโดยใช่เหตุ แต่ถ้าเราสอนให้มันรู้ว่าควรดึงเฉพาะข้อมูลสรุปจากตารางที่ถูกเตรียมไว้แล้ว หรือเลือก query ที่เหมาะสมกับบริบทของคำถาม ต้นทุนจะลดลงทันทีแบบเทียบกันไม่ติด
นี่คือสิ่งที่เรียกว่า "optimize context windows" ไม่ใช่แค่เรื่องเทคนิค แต่คือเรื่องเงินในกระเป๋าของคุณโดยตรง
อีกมุมหนึ่งที่น่าสนใจคือการออกแบบระบบให้มี "หลายชั้น" ใช้ deterministic logic สำหรับงานที่ต้องความแม่นยำสูง เช่น การคำนวณยอดเงินหรือการตรวจสอบสิทธิ์ แล้วค่อยให้ LLM มาจัดการกับงานที่ต้องใช้ความเข้าใจภาษาและบริบท ซึ่งการแยกแบบนี้ช่วยลดความเสี่ยงและทำให้ระบบน่าเชื่อถือขึ้นมาก
Data Mesh
กระจายความรับผิดชอบข้อมูลให้แต่ละทีม ไม่ต้องรอทีมกลาง ช่วยลดคอขวดและทำให้ข้อมูลสดใหม่กว่า
Semantic Ontology
สร้างความหมายให้ข้อมูลที่ AI เข้าใจตรงกัน ลดความกำกวมเวลาสื่อสารกับระบบ
Dynamic MCP Selection
เลือกเครื่องมือให้เหมาะกับบริบทแบบเรียลไทม์ ลดการส่งข้อมูลที่ไม่จำเป็นเข้าสู่ LLM
ทั้งหมดที่พูดมามันไม่ได้เป็นแค่แนวคิดลอยๆ แต่คือสิ่งที่ TOTVS ลงมือทำจริงกับระบบขนาดใหญ่ของเขา และนี่คือบทเรียนที่องค์กรไทยกำลังจะต้องเจอถ้ายังไม่ได้เริ่มเตรียมตัว
สรุปให้ฟังแบบตรงไปตรงมา: ยุคของ AI Agent กำลังมา และมันจะกินข้อมูลเข้าไปมหาศาล ถ้าคุณยังปล่อยให้มันจัดการกับข้อมูลดิบๆ โดยไม่มีการออกแบบสถาปัตยกรรมที่ดี เตรียมเจอทั้งค่าใช้จ่ายที่บานปลายและผลลัพธ์ที่ไม่ได้คุณภาพ ลงทุนกับ Data Layer วันนี้ ดีกว่านั่งปวดหัวแก้ทีหลังแน่นอน
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...