เจาะระบบหลังบ้าน
AI Agents
Grab ยุบเวลาติดตั้ง AI Agent จาก 2 สัปดาห์เหลือ 1 ชั่วโมง ด้วย LLM-Kit
ปัญหาจริงของการทำ AI Agent ในองค์กรไม่ใช่เรื่องโมเดลเก่งไม่เก่ง แต่คือการเอามันขึ้น production ให้ได้ซ้ำๆ โดยไม่พัง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ต่อให้โมเดลดีแค่ไหน ถ้าทีมต้องใช้เวลาสองสัปดาห์เพื่อเอาขึ้น production ทุกครั้ง นั่นไม่ใช่ปัญหา AI — นั่นคือปัญหา infrastructure
ถ้าคุณเคยสงสัยว่าทำไมบริษัทเทคใหญ่ๆ ถึงปล่อย AI Agent ออกมาใช้งานจริงได้เร็วกว่าที่อื่น ทั้งที่ใช้โมเดลพื้นฐานตัวเดียวกัน คำตอบไม่ได้อยู่ที่โมเดล แต่อยู่ที่ "ท่อ" ข้างหลังต่างหาก ล่าสุด Grab ออกมาเล่าเคสของตัวเองผ่าน InfoQ ว่าพวกเขาสร้าง framework ชื่อ LLM-Kit ขึ้นมาเพื่อจัดการกับปัญหานี้โดยตรง และผลลัพธ์ที่ได้ก็น่าสนใจไม่น้อย
ตัวเลขที่ Grab เปิดเผยคือ LLM-Kit ถูกใช้เป็นมาตรฐานให้กับ agent service ภายในองค์กรมากกว่า 500 ตัว และสิ่งที่มันเปลี่ยนไปคือเวลาที่ใช้ deploy AI Agent ตัวใหม่ ลดจาก 2 สัปดาห์เหลือแค่ 1 ชั่วโมง อันนี้คือส่วนที่ผมว่าคนทำ AI ในองค์กรควรหยุดอ่านแล้วคิดตาม เพราะมันไม่ใช่เรื่องของความเร็วเฉยๆ แต่มันคือเรื่องของจำนวนรอบที่ทีมจะได้ลองของ ลองผิดลองถูก แล้ว iterate ได้จริง
ปัญหาที่ Grab เจอไม่ใช่เรื่องใหม่เลย สำหรับองค์กรที่มี agent เยอะๆ สิ่งที่เจ็บปวดคือการ integrate บริการต่างๆ เข้าด้วยกัน การ evaluate ว่ามันทำงานถูกไหม และการจัดการ secret หรือ credential ต่างๆ ที่ต้องใช้ ซึ่งถ้าปล่อยให้แต่ละทีมทำเองแบบกระจัดกระจาย มันจะกลายเป็นหนี้ทางเทคนิคที่โตขึ้นเรื่อยๆ ทุกครั้งที่เพิ่ม agent ใหม่
LLM-Kit เลยเข้ามาทำหน้าที่เป็นชั้นกลางที่รวมเรื่องพวกนี้ไว้ที่เดียว ทั้งการจัดการ infrastructure การค้นหา tool ที่ต้องใช้ตอน runtime และการต่อกับโมเดลต่างๆ แบบยืดหยุ่น โดยที่ทีมยังคุม operational control ได้อยู่ อันนี้ผมมองว่าจุดขายจริงไม่ใช่แค่ "เร็วขึ้น" แต่คือ "เร็วขึ้นโดยไม่ต้องแลกกับการเสียการควบคุม" ซึ่งเป็นสิ่งที่ทีม platform ทั่วไปมักกลัวเวลาจะทำ abstraction layer ใหม่
ถ้าคุณเป็นทีมเล็กที่ทำ AI Agent อยู่ตอนนี้ อย่าเพิ่งคิดว่าเรื่องนี้เป็นของบริษัทใหญ่ที่ไกลตัว ผมว่ามันกลับกันเลย เพราะสิ่งที่ Grab ทำคือการยอมรับว่าการ deploy agent ซ้ำๆ มันมี pattern ที่เหมือนกันหมด และ pattern พวกนี้แหละที่ควรถูก standardize ตั้งแต่ต้น ไม่ใช่ปล่อยให้แต่ละทีม reinvent เองแล้วมาเสียเวลาแก้ทีหลัง
ที่สำคัญคือเรื่อง runtime tool discovery กับ flexible model integration สองอย่างนี้คือสิ่งที่ทำให้ framework แบบนี้ไม่ล้าสมัยเร็ว เพราะโลกของ AI Agent ตอนนี้เปลี่ยนทุกเดือน วันนี้ใช้โมเดลนึง พรุ่งนี้อาจต้องสลับไปอีกตัว ถ้า architecture ของคุณผูกติดกับโมเดลใดโมเดลหนึ่งตั้งแต่แรก คุณจะกลายเป็นคนที่ต้องรื้อระบบทุกครั้งที่มีของใหม่ ซึ่งนั่นคือฝันร้ายของทีม engineering ทุกทีม
อีกมุมที่ผมอยากให้สังเกตคือการที่ Grab เลือกเปิดเผยรายละเอียดพวกนี้ออกมาผ่านสื่ออย่าง InfoQ ไม่ใช่แค่ประกาศว่ามี framework ใหม่ แต่เล่าถึงตัวเลขจริง ปัญหาจริง และวิธีแก้จริง ซึ่งสำหรับวงการ AI Agent ที่ยังเต็มไปด้วย hype อยู่ตอนนี้ การมีเคสแบบนี้ให้ดูเป็นตัวอย่างมันมีค่ามากกว่าข่าวเปิดตัวผลิตภัณฑ์เป็นไหนๆ
บทเรียนจากเคสนี้ไม่ใช่ "ใช้ LLM-Kit แล้วจะเร็ว" แต่คือ "ถ้าคุณยังไม่มีชั้นกลางที่จัดการ agent service ได้ คุณกำลังเผาเวลาทีมไปกับงานที่ควรทำครั้งเดียว" — ตัวเลข 2 สัปดาห์เหลือ 1 ชั่วโมงไม่ใช่แค่เรื่องความเร็ว แต่มันคือช่องว่างระหว่างทีมที่ scale ได้กับทีมที่ติดอยู่กับงาน manual ไปตลอด
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...