เจาะประเด็น
AI / Tools
OpenRouter สะดวกจริง แต่โมเดลเดียวกันอาจให้คำตอบไม่เหมือนกัน ขึ้นอยู่กับว่าใครเสิร์ฟ
จุดขายเรื่องการเลือกผู้ให้บริการอัตโนมัติ กลายเป็นดาบสองคมที่ทำให้พฤติกรรมของโมเดลแกว่งแบบคาดเดาไม่ได้
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ความสะดวกที่แลกมาด้วยความสม่ำเสมอของผลลัพธ์ เป็นดีลที่หลายคนอาจไม่รู้ว่ากำลังจ่ายอยู่
ถ้าใครเคยใช้ OpenRouter แล้วรู้สึกว่ามันสะดวกโคตร คือนั่งเทียบราคาโมเดลทีละเจ้าให้ปวดหัวอยู่ตั้งนาน สุดท้ายยิง API endpoint เดียวแล้วให้ระบบมันเลือก backend ที่คุ้มที่สุดให้เอง จบเรื่อง นั่นแหละคือจุดขายที่ทำให้คนแห่ใช้กัน
แต่ Mohamed Moustafa ออกมาเตือนว่า ความสะดวกนี้มีราคาที่ต้องจ่าย และมันเป็นราคาที่คนใช้ส่วนใหญ่มองไม่เห็นด้วยซ้ำ
ประเด็นคือผู้ให้บริการแต่ละเจ้าที่อยู่เบื้องหลัง OpenRouter รันซอฟต์แวร์เสิร์ฟโมเดลคนละตัวกัน มีการปรับแต่งและตั้งค่าคนละแบบ แปลว่าต่อให้คุณยิงไปที่ endpoint เดียวกัน ขอโมเดลตัวเดียวกันเป๊ะๆ แต่คำตอบที่ได้กลับมาอาจมีพฤติกรรมที่ต่างกันได้ ขึ้นอยู่กับว่าในวินาทีนั้นระบบเลือก route ไปหาใคร
ฟังดูเป็นรายละเอียดเล็กๆ ใช่ไหม แต่ลองคิดดูว่าถ้าคุณกำลังสร้างแอปที่ต้องพึ่งความสม่ำเสมอของผลลัพธ์ หรือกำลังทำ evaluation เทียบโมเดล แล้วอยู่ๆ ผลลัพธ์มันแกว่งโดยที่คุณไม่รู้สาเหตุ นี่คือฝันร้ายของคนทำ production เลย
เรื่องนี้ไม่ได้จบแค่เรื่องความเร็วหรือคุณภาพคำตอบนะ บางเจ้ายังขาดความสามารถด้าน vision สำหรับโมเดลที่ควรจะมองภาพได้ด้วยซ้ำ ต่อให้คุณเรียกโมเดลที่รองรับภาพ แต่ถ้า route ไปโดนเจ้านั้นเข้า คำตอบที่ได้ก็อาจไม่ได้วิเคราะห์ภาพให้เลย
และอีกจุดที่หลายคนคาดไม่ถึงคือ ตัวเลือก reasoning effort ที่คุณตั้งไว้ ก็ถูกตีความต่างกันในแต่ละเจ้าเหมือนกัน คุณอาจตั้งค่าไว้สูงเพื่อหวังให้โมเดลคิดวิเคราะห์ลึกๆ แต่ผู้ให้บริการบางรายอาจจัดการค่านี้คนละวิธี ผลลัพธ์เลยออกมาไม่เหมือนที่ตั้งใจ
ข่าวดีคือเรื่องนี้แก้ได้ คุณสามารถกำหนดได้ว่าจะให้ระบบ route ไปหาผู้ให้บริการรายไหนเท่านั้น ด้วยออปชัน provider.only
และถ้าอยากรู้ว่ามีเจ้าไหนให้เลือกบ้างสำหรับโมเดลที่คุณจะใช้ วิธี /endpoints จะคืนรายชื่อผู้ให้บริการทั้งหมดที่รองรับโมเดล ID นั้นๆ ออกมาให้
สรุปคือ OpenRouter ยังเป็นเครื่องมือที่ทรงพลังและประหยัดเวลา แต่ถ้าคุณซีเรียสกับความสม่ำเสมอของผลลัพธ์ อย่าไว้ใจให้มันเลือก provider แทนคุณแบบ 100% ล็อก provider.only ไว้ตั้งแต่แรก แล้วปัญหาที่คุณไม่รู้ว่ามีอยู่จะหายไปเอง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...