เมื่อกี้ไปเจอกระทู้ใน HN ถามว่าคนที่ใช้โมเดลจีนอย่าง DeepSeek หรือ Qwen เนี่ย ประกอบกับ agentic harness ตัวไหนกันบ้าง ผมว่าประเด็นนี้โคตรน่าสนใจเพราะตอนนี้โมเดลจีนมาแรงมาก แต่คนส่วนใหญ่เวลาพูดถึง agent ก็จะนึกถึงแค่ OpenAI หรือ Claude ก่อน ซึ่งจริงๆ แล้วโมเดลจีนบางตัวราคาถูกกว่าแรงดีกว่าเยอะ แต่พอจะเอาไปต่อกับ tool หรือไลบรารีต่างๆ ดันเจอปัญหาความเข้ากันได้บ่อยๆ
ส่วนตัวผมลองใช้ LangChain กับ LlamaIndex อยู่บ้าง แต่รู้สึกว่ามันยังไม่เนียนเท่าไหร่ โดยเฉพาะเรื่อง function calling ที่บางที output format ไม่ตรงกับที่ฝั่งอังกฤษเขาออกแบบไว้ ต้องไปเขียน parser เองวุ่นวาย เลยอยากรู้ว่าคนอื่นๆ ในนี้มีวิธีแก้กันยังไง หรือมี framework เจ๋งๆ ที่รองรับโมเดลจีนโดยเฉพาะแบบเต็มรูปแบบไหมครับ
อีกอย่างที่สงสัยคือเรื่อง context window กับ memory management ตอนทำงานยาวๆ ใครมีทริคจัดการกับ token ที่ใช้เยอะๆ เพราะโมเดลจีนบางตัวคิดเงินตาม token แต่ถูกมากจนไม่ต้อง optimize ก็ได้ หรือเปล่า? มาแชร์ประสบการณ์กันหน่อยครับ อยากได้แนวทางที่ practical จริงๆ ไม่ใช่แค่ในกระดาษ
ส่วนตัวผมลองใช้ LangChain กับ LlamaIndex อยู่บ้าง แต่รู้สึกว่ามันยังไม่เนียนเท่าไหร่ โดยเฉพาะเรื่อง function calling ที่บางที output format ไม่ตรงกับที่ฝั่งอังกฤษเขาออกแบบไว้ ต้องไปเขียน parser เองวุ่นวาย เลยอยากรู้ว่าคนอื่นๆ ในนี้มีวิธีแก้กันยังไง หรือมี framework เจ๋งๆ ที่รองรับโมเดลจีนโดยเฉพาะแบบเต็มรูปแบบไหมครับ
อีกอย่างที่สงสัยคือเรื่อง context window กับ memory management ตอนทำงานยาวๆ ใครมีทริคจัดการกับ token ที่ใช้เยอะๆ เพราะโมเดลจีนบางตัวคิดเงินตาม token แต่ถูกมากจนไม่ต้อง optimize ก็ได้ หรือเปล่า? มาแชร์ประสบการณ์กันหน่อยครับ อยากได้แนวทางที่ practical จริงๆ ไม่ใช่แค่ในกระดาษ
ความคิดเห็น 2
กำลังโหลดความคิดเห็น...