อัปเดต
Tools / LLM
llm 0.33 มาพร้อมคีย์แบบใหม่ กับลูกเล่นต่อเทมเพลตที่เปลี่ยนวิธีใช้ชีวิต(ในเทอร์มินัล)ของคุณ
ไม่ได้อัปเดตแค่ปะผุ แต่เป็นการปรับโครงสร้างการจัดการคีย์และเปิดทางให้คอมโบเทมเพลตที่ฉลาดขึ้นมาก
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
การอัปเดตครั้งนี้ไม่ได้ทำให้ llm "เร็วขึ้น" หรือ "เก่งขึ้น" แต่ทำให้มัน "ยืดหยุ่นขึ้น" ในแบบที่คนใช้จริงถึงจะซาบซึ้ง
ปกติผมไม่ค่อยตื่นเต้นกับไมเนอร์รีลีสเท่าไหร่ แต่อันนี้มันต่าง เพราะ 0.33 ไม่ใช่แค่การแก้บั๊กจุกจิก แต่มันคือการปูทางให้เวิร์กโฟลว์ที่เคยต้องมานั่งมั่วเองกลายเป็นเรื่องที่ทำได้ในคำสั่งเดียว ใครที่ใช้ llm ของ Simon Willison เป็นประจำจะรู้ดีว่าเครื่องมือนี้มันทรงพลังแค่ไหน แต่การจัดการคีย์กับเทมเพลตเคยเป็นจุดที่ต้องคอยมานั่งจัดแจงเอง
ประเด็นแรกที่ต้องพูดถึงคือการอัปเกรดไปใช้ OpenAI Python library เวอร์ชัน 3.x และสลับ HTTP client จาก httpx ไปเป็น httpx2 ซึ่งจริงๆ แล้วเมื่อวาน Simon ปล่อย 0.32.1 มาเป็นแพตช์ด่วนแล้ว แต่นี่คือการแก้อาการบาดเจ็บให้หายขาด ไม่ใช่แค่ประคองให้เดินต่อได้
ประเด็นที่สองคือเรื่องคีย์ ซึ่งผมว่ามันคือการเปลี่ยนแปลงที่มีผลต่อชีวิตประจำวันที่สุดในรีลีสนี้ llm embed และ llm embed-multi รับแฟล็ก --key ได้แล้ว และที่สำคัญกว่านั้นคือ Python API อย่าง EmbeddingModel.embed() ก็รับพารามิเตอร์ key= เช่นกัน
ฟังดูเป็นเรื่องเล็ก แต่จริงๆ คือการแก้ดีไซน์ที่บกพร่องมานาน เพราะแต่ก่อนถ้าคุณอยากใช้คีย์ต่างกันต่อการเรียกใช้ครั้งเดียว คุณต้องไปยุ่งกับสถานะของโมเดลซึ่งมันเลอะเทอะและเสี่ยงต่อการรั่วไหลของคีย์ไปยังการเรียกอื่นๆ ตอนนี้มันส่งคีย์เฉพาะกิจไปให้ปลั๊กอินได้เลยโดยไม่ไปยุ่งกับค่าเริ่มต้น พวกปลั๊กอินเก่าที่อ่าน self.key ยังทำงานได้ผ่าน fallback ซึ่งเป็นการออกแบบที่เคารพคนเขียนปลั๊กอินมาก
แต่ไฮไลต์ที่ผมชอบที่สุดคือการที่ llm prompt -t/--template สามารถใช้ซ้ำได้แล้ว นั่นหมายความว่าคุณสามารถต่อเทมเพลตหลายๆ อันเข้าด้วยกันตามลำดับเพื่อรวมการตั้งค่าโมเดลจากอันหนึ่งเข้ากับพรอมต์จากอีกอันหนึ่ง มันคือการคอมโบที่เปิดโลกใหม่เลย
ตัวอย่างการใช้งานจริง
สร้างเทมเพลตที่แพ็กโมเดลพร้อมดีฟอลต์ออปชันก่อน แล้วค่อยเอามาต่อกับเทมเพลตพรอมต์ทีหลัง
ความหมายที่แท้จริง
คุณไม่ต้องเสียเวลาพิมพ์แฟล็กยาวๆ ซ้ำทุกครั้ง แค่เซฟเป็นเทมเพลตแล้วเรียกใช้รวมกันได้เลย
ลองนึกภาพว่าคุณมีเทมเพลตที่เซตรุ่นโมเดลและค่าพารามิเตอร์ไว้แบบหนึ่ง กับอีกเทมเพลตที่เป็นพรอมต์เจ๋งๆ ที่คุณใช้บ่อย การต่อมันด้วยคำสั่งเดียวคือการประหยัดเวลาและลดความผิดพลาดจากการพิมพ์ยาวๆ ได้เยอะมาก
อีกหนึ่งอย่างที่ต้องพูดถึงคือ reasoning_summary สำหรับโมเดลที่รองรับ Responses API ซึ่งมีค่าให้เลือก auto, concise และ detailed ซึ่งมีประโยชน์มากสำหรับคนที่ต้องการควบคุมระดับรายละเอียดของการ์ดรีซันนิง
โดยรวมแล้ว llm 0.33 คือรีลีสที่ไม่ได้โชว์ของเก๋ไก๋ แต่เป็นการเก็บหนี้ทางเทคนิคและเพิ่มความยืดหยุ่นในจุดที่คนใช้จริงเจอทุกวัน มันคือการอัปเดตที่ "เข้าใจผู้ใช้" มากกว่าจะ "อวดฟีเจอร์"
นี่คือการอัปเดตที่ไม่ได้มีไว้ให้พูดถึงในงานคอนเฟอเรนซ์ แต่มีไว้ให้คนที่ต้องนั่งพิมพ์คำสั่งในเทอร์มินัลทุกวันรู้สึกว่าชีวิตง่ายขึ้นจริงๆ ถ้าคุณใช้ llm อยู่แล้ว อัปเดตเลย ไม่ต้องคิดมาก
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...