อัปเดต
Tools
ttok 0.4 กลับมาแล้ว หลังปล่อยร้างไปสองปี
เครื่องมือ CLI นับ token ที่หลายคนลืมไปแล้ว ได้รับการดูแลครั้งใหญ่ พร้อมคำสั่งใหม่ที่ทำให้ชีวิตง่ายขึ้น
ทีมข่าว เอไอไทย.com
⏱ อ่าน 2 นาที
บางทีเครื่องมือเล็กๆ ที่เราลืมไป ก็ยังมีค่าอยู่ ถ้าเจ้าของกลับมาดูแลมันอีกครั้ง
ถ้าใครทำงานสาย LLM บ่อยๆ ก็น่าจะรู้ว่าการนับ token ไม่ใช่เรื่องเล่นๆ มันคือค่าใช้จ่ายจริงๆ ที่เราจ่ายให้ API และมันก็คือข้อจำกัดจริงๆ ของ context window ที่เราต้องเจอทุกวัน และหนึ่งในเครื่องมือที่ช่วยเรื่องนี้ได้ก็คือ ttok เครื่องมือ CLI ที่ Simon Willison เขียนขึ้นมาโดยใช้ไลบรารี tiktoken โอเพนซอร์สของ OpenAI
ข่าวดีก็คือ ตอนนี้ ttok ออกเวอร์ชัน 0.4 แล้ว หลังจากที่ไม่ได้อัปเดตมานานหลายปี ซึ่งถ้าใครเคยใช้เครื่องมือที่ถูกทิ้งร้างไว้แบบนี้ ก็คงเข้าใจความรู้สึก ว่ามันทั้งกลัวจะพัง กลัวจะใช้กับอะไรใหม่ๆ ไม่ได้ แต่ก็ยังใช้อยู่เพราะยังไม่มีอะไรแทนได้ดีกว่า
การกลับมาครั้งนี้ Simon บอกว่าเขาแก้คำเตือนจาก Click ที่ค้างมานาน อัปเดต CI ให้ทันสมัย และเพิ่มคำสั่งใหม่ที่ชื่อว่า --list-models ซึ่งเอาไว้แสดงรายการโมเดลทั้งหมดที่ใช้ได้ อันนี้คือสิ่งที่คนใช้จริงจะรู้สึกได้ทันที เพราะเวลาเราจะนับ token เราก็ต้องรู้ก่อนว่าโมเดลที่เราจะใช้มันชื่ออะไรกันแน่
แก้คำเตือน Click
จัดการปัญหา warning ที่ค้างอยู่ในโค้ดมานาน ทำให้การใช้งานสะอาดขึ้น
อัปเดต CI
ปรับระบบ continuous integration ให้ทันสมัย รองรับการพัฒนาต่อในอนาคต
คำสั่ง --list-models
เพิ่มความสามารถในการแสดงรายการโมเดลที่มีให้เลือกใช้งาน
จุดที่น่าสนใจอีกอย่างคือ ttok ทำงานร่วมกับ uvx ได้ ซึ่งหมายความว่าคุณไม่ต้องติดตั้งอะไรให้ยุ่งยาก แค่สั่งผ่าน pipe ก็ใช้งานได้เลย ตัวอย่างที่ Simon ยกมาเองคือ cat file.txt | uvx ttok แค่นี้ก็รู้แล้วว่าไฟล์ที่เรามีอยู่กิน token ไปเท่าไหร่
สำหรับคนที่ทำงานกับ LLM ทุกวัน การรู้จำนวน token ล่วงหน้าคือการประหยัดเงินจริงๆ ไม่ใช่แค่เรื่องเท่ๆ ทางการตลาด เพราะค่า API คิดตาม token ตรงๆ และ context window ก็มีขีดจำกัดที่ชัดเจน การมีเครื่องมือเล็กๆ ที่ทำงานเร็วๆ ผ่าน command line จึงมีค่ามากกว่าที่หลายคนคิด
การที่ Simon กลับมาดูแล ttok อีกครั้งเป็นสัญญาณดีว่าเครื่องมือพื้นฐานในวงการ AI ยังได้รับการใส่ใจ ถึงจะไม่ใช่โปรเจกต์ใหญ่ตระการตา แต่สำหรับคนที่ต้องนับ token ทุกวัน นี่คือของจริงที่ใช้ประโยชน์ได้ทันที
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...