อัปเดต
AI
เลือกโมเดล AI ให้ถูกงานด้วย Auto Router จาก Cloudflare
ระบบสลับรางคำขออัจฉริยะที่คิดเงินถูกลงแต่ยังต้องพิสูจน์ตัวเองในระยะยาว
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
การเลือกใช้โมเดลใหญ่สุดกับทุกงานไม่ใช่คำตอบอีกต่อไปเมื่อค่าใช้จ่ายคือเรื่องใหญ่
จากเดิมที่นักพัฒนาต้องปวดหัวกับการเลือกว่าจะยิงคำขอไปที่โมเดลไหนดี ตอนนี้ Cloudflare เขาปล่อยของใหม่ออกมาแก้ปัญหานี้แล้วกับ Auto Router ใน AI Gateway ที่เปิดให้คนทั่วไปได้ลองใช้แบบ public beta กันสักที
ไอเดียของมันตรงไปตรงมามาก แทนที่จะส่งงานทุกอย่างไปที่โมเดลเรือธงราคาแพง ตัวระบบตัวนี้จะทำหน้าที่เป็นคนคัดกรองหน้างาน แล้วเลือกโมเดลที่เหมาะสมที่สุดให้กับแต่ละคำขอแบบเรียลไทม์
ระบบเบื้องหลังไม่ได้เลือกแบบสุ่มสี่สุ่มห้า แต่ใช้ตัวจำแนกประเภทคอยให้คะแนนคำขอในหลากหลายมิติ ไม่ว่าจะเป็นเรื่องความซับซ้อน ความกำกวม ระดับความสำคัญ และบริบทโดยรอบ เพื่อดูว่างานนี้ควรใช้โมเดลระดับไหนถึงจะคุ้มค่าที่สุด
เรื่องตัวเลขผลลัพธ์ก็น่าสนใจไม่น้อย เพราะจากการทำเบนช์มาร์กของ Cloudflare เอง เจ้าตัว Auto Router นี้ทำคะแนนความสำเร็จตามหลังโมเดลตัวท็อปอย่าง Claude Opus 5.5 อยู่สิบคะแนนเต็ม แต่แลกมาด้วยต้นทุนที่ถูกลงไปถึงหนึ่งในสาม
ฟังดูอาจจะเหมือนฝันที่เป็นจริงสำหรับสายประหยัดงบ แต่ในมุมมองของคนทำงานจริงในสนาม เขาก็ยังแอบกังขาและตั้งคำถามกันอยู่พอสมควรว่าระบบประเมินความสำคัญแบบนี้มันจะรอดตัวไปได้ตลอดรอดฝั่งไหมในเซสชันของเอเจนต์ที่ยาวนาน
อันนี้คือจุดตายที่หลายคนกังวล เพราะถ้าคุยกันยาวๆ บริบทต้นทางอาจจะเริ่มเพี้ยน หรือระดับความสำคัญของงานอาจจะพลิกผันได้ตลอดเวลา ซึ่งเป็นเรื่องที่ท้าทายมากสำหรับระบบจัดสรรอัตโนมัติแบบนี้
Auto Router จาก Cloudflare คือก้าวสำคัญในการบาลานซ์เรื่องต้นทุนและประสิทธิภาพ แต่ของจริงต้องรอดูกันยาวๆ ว่าจะคุมเกมไหวไหมเมื่อเจอการใช้งานจริงที่ซับซ้อนกว่าเดิม
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...