อัปเดตเครื่องมือ
Tools
ปลั๊กอินจำลองโมเดล llm-echo อัปเดตเวอร์ชัน 0.5 พร้อมนับโทเค็นเบื้องหลังสมจริงขึ้น
เครื่องมือดีบั๊กที่ไม่ต้องใช้ AI จริง แต่จำลองการทำงานทุกอย่างได้เนียนกริบ ปล่อยเวอร์ชันใหม่แล้ววันนี้
ทีมข่าว เอไอไทย.com
⏱ อ่าน 2 นาที
บางทีเครื่องมือที่ดีที่สุดสำหรับการเขียนโค้ด AI ก็คือตัวจำลองโง่ๆ ที่แค่พ่นข้อความเดิมกลับมานี่แหละ
นักพัฒนาสายปั้นโมเดลน่าจะคุ้นเคยกันดีกับการนั่งเทสระบบวนไป โดยเฉพาะเวลาต้องเช็กว่าโค้ดที่เราเขียนมันส่งพารามิเตอร์ไปถูกต้องไหม ซึ่งล่าสุด Simon Willison นักพัฒนาสายเก๋าเขาเพิ่งเข็นอัปเดตใหม่ให้กับ llm-echo ปลั๊กอินดีบั๊กคู่ใจของเขาในเวอร์ชัน 0.5 ออกมาให้ลองใช้กันแล้ว
ถ้าใครยังไม่เคยรู้จัก เจ้าปลั๊กอินตัวนี้มันตลกตรงที่ว่าตัวมันไม่ใช่โมเดลปัญญาประดิษฐ์อะไรเลยแม้แต่น้อย มันเป็นแค่ตัวจำลองที่ทำหน้าที่อย่างเดียวคือ รับพรอมต์ที่คุณส่งเข้าไป แล้วก็พ่นข้อความเดิมอันนั้นกลับออกมาตรงๆ แบบไม่มีการคิดวิเคราะห์แยกแยะใดๆ ทั้งสิ้น ฟังดูเหมือนไม่มีประโยชน์ใช่ไหม จริงดิ แต่มันโคตรจะมีประโยชน์เวลาเราต้องการเทสระบบการทำงานเบื้องหลังโดยไม่ต้องเสียเงินเรียก API จริงสักบาท
รอบนี้ Simon บอกว่าเขาบังเอิญกลับมาหยิบเจ้าปลั๊กอินตัวนี้ขึ้นมาปัดฝุ่นใหม่ ระหว่างที่กำลังนั่งเทสพวก Pull Request ต่างๆ สำหรับโปรเจกต์ LLM ตัวใหม่ที่เขากลังซุ่มทำอยู่พอดี พอกลับมาจับมันก็เลยเกิดไอเดียอยากอัปเกรดความสามารถให้มันฉลาดขึ้นในแบบของตัวจำลอง
ความเปลี่ยนแปลงหลักในเวอร์ชัน 0.5 นี้ อยู่ที่การยกระดับเรื่องการจำลองการนับจำนวนโทเค็นให้มันสมจริงขึ้นกว่าเดิมเยอะมาก จากเดิมที่อาจจะแค่พ่นข้อความกลับมาลอยๆ ตอนนี้มันคิดคำนวณยิบย่อยลงไปถึงองค์ประกอบเบื้องหลังที่ระบบ AI ยุคนี้ต้องเจอจริงๆ เวลาคุยกัน
การเรียกใช้งานเครื่องมือ
อัปเดตให้นับจำนวนโทเค็นที่ถูกใช้ไปกับการเรียกใช้งาน Tool calls ในระบบจำลองแล้ว
พรอมต์ระบบ
นำเอาส่วนของ System prompts มาคำนวณรวมในสถิติการใช้งานโทเค็นด้วย
โทเค็นการใช้เหตุผล
รองรับการจำลอง Reasoning tokens ที่มักจะโผล่มาในโมเดลยุคใหม่ๆ เรียบร้อย
การที่มันรองรับองค์ประกอบพวกนี้เพิ่มเข้ามา ทำให้เวลาเราเอาไปใช้เทสแอปพลิเคชันที่ซับซ้อนขึ้น ตัวเลขสถิติการใช้โทเค็นที่ได้มันจะใกล้เคียงกับสถานการณ์จริงเวลาต่อโมเดลจริงมากขึ้นไปอีกขั้น ช่วยให้คนพัฒนาไม่ต้องปวดหัวกับบั๊กแปลกๆ ตอนเอาโค้ดขึ้นระบบจริง
ใครที่ทำงานคลุกคลีกับการพัฒนาแอปด้วย LLM อยู่แล้ว แล้วอยากหาเครื่องมือเบาสองมือไว้เทสระบบแบบไม่ต้องกลัวเปลืองโควต้า ลองแวะไปส่องรายละเอียดเพิ่มเติมหรืออัปเดตปลั๊กอินตัวนี้กันดูได้จากบล็อกของเจ้าตัวเขาเลย
ของเล่นเด็กเส้นสาย dev ที่ดูเหมือนจะเรียบง่าย แต่อัปเดตนี้ช่วยให้การเทสระบบเบื้องหลังของจริงทำได้เนียนและแม่นยำขึ้นเยอะ ใครสายนี้ควรมีติดเครื่องไว้
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...