เจาะลึกโปรเจกต์ AI มาแรงอันดับ 12 บน Hugging Face ที่รองรับทั้งข้อความและรูปภาพ พร้อมสถาปัตยกรรมแบบ MoE
Inkling 2 Small เป็นโมเดล Multimodal เอนกประสงค์ที่ถูกปล่อยออกมาแบบเปิดโอเพนเวทส์ รองรับทั้งการป้อนข้อมูลที่เป็นข้อความและรูปภาพ พร้อมสร้างผลลัพธ์เป็นข้อความ รองรับภาษาอังกฤษและภาษาอื่นๆ รวมถึงหลากหลายภาษาโปรแกรม โมเดลนี้ถูกออกแบบมาเพื่อให้นักพัฒนาสามารถนำไปสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI เช่น ระบบเอเจนต์และระบบเรียกใช้งานเครื่องมือ (tool-use) ผู้ช่วยเขียนโค้ด แชทบอท และระบบ Retrieval-Augmented Generation
โครงสร้างภายในของโมเดลเป็นแบบ 48-layer decoder-only transformer ที่ใช้สถาปัตยกรรม Sparse Mixture-of-Experts (MoE) มีพารามิเตอร์รวมทั้งหมด 594B และใช้งานจริง 17B ต่อโทเค็น รองรับการประมวลผลข้อความเข้ารหัส UTF-8 และรูปภาพพิกเซลขนาด 40px ถึง 4096px รองรับ Context Window สูงสุดถึง 1M โทเค็น
ในด้านการใช้งาน นักสามารถทดลองใช้ผ่าน Tinker Playground หรือเรียกใช้งานผ่าน API ด้วย Tinker Cookbook นอกจากนี้ยังรองรับการรันแบบ Local ผ่านเฟรมเวิร์กอย่าง SGLang, vLLM, TokenSpeed และ Unsloth โดยตัวโมเดลมีรูปแบบเช็คพอยต์หลักแบบ NVFP4 ซึ่งแนะนำให้ใช้งาน เนื่องจากผ่านการฝึกฝนในรูปแบบนี้โดยตรง และปัจจุบันตัวโปรเจกต์มียอดถูกใจ 222 ครั้ง และมียอดดาวน์โหลด 1,064 ครั้ง บน Hugging Face
✨ จุดเด่น
- สถาปัตยกรรม MoE — ใช้โครงสร้าง 48 เลเยอร์ มีพารามิเตอร์รวม 594B แต่ใช้งานจริง 17B ต่อโทเค็น
- รองรับข้อมูลหลากหลาย — รับอินพุตได้ทั้งข้อความ UTF-8 และรูปภาพ พร้อม Context Window สูงสุด 1M โทเค็น
- เลือกใช้งานได้หลายวิธี — รองรับการรันแบบ Local ผ่าน vLLM, SGLang, Unsloth หรือเรียกผ่าน API ของผู้ให้บริการภายนอก
🙋 ใครเหมาะจะลอง: เหมาะสำหรับนักพัฒนาซอฟต์แวร์ที่ต้องการสร้างแอปพลิเคชัน AI, ระบบเอเจนต์ หรือแชทบอท โดยต้องมีคลัสเตอร์ GPU ที่มี VRAM รวมกันอย่างน้อย 500GB สำหรับเช็คพอยต์ NVFP4 (เช่น NVIDIA B300 จำนวน 2 ตัว หรือ H200 จำนวน 4 ตัว)
ทีมข่าว เอไอไทย.com · เรียบเรียงจากหน้าโปรเจกต์ thinkingmachines/Inkling-2-Small — รายละเอียดล่าสุดดูที่ต้นทาง
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...