ทำความรู้จัก tencent/Hy4-flash โมเดล AI ตัวใหม่จาก Hugging Face ที่รองรับทั้งข้อความและรูปภาพ พร้อมสถาปัตยกรรม MoE และหน้าต่างบริบทขนาดใหญ่
โปรเจกต์ tencent/Hy4-flash เป็นโมเดล AI ล่าสุดจาก Hugging Face ที่ถูกออกแบบมาให้มีความคุ้มค่าด้านต้นทุน โดยเป็นโมเดลที่รองรับทั้งอินพุตที่เป็นข้อความและรูปภาพ พร้อมความสามารถในการสร้างข้อความและรองรับหน้าต่างบริบท (Context window) สูงสุดถึง 1M tokens
ในด้านการทำงาน โมเดลนี้มีพารามิเตอร์รวมทั้งหมด 220B (รวม Engram parameters 64B) แต่ใช้พารามิเตอร์จริงเพียง 12B active parameters ต่อโทเค็น โครงสร้างหลักประกอบด้วย 42 เลเยอร์ที่เป็น Mixture-of-Experts (MoE) และใช้สถาปัตยกรรมแบบ Hybrid attention รวมถึงมี vision encoder สำหรับจัดการข้อมูลรูปภาพ
สำหรับความน่าสนใจ โปรเจกต์นี้กำลังได้รับความสนใจบน Hugging Face โดยติดอันดับ #8 ในหน้ากำลังมาแรง มีสถิติยอดถูกใจ 221 ครั้ง และยอดดาวน์โหลด 159 ครั้ง ซึ่งเหมาะสำหรับนักพัฒนาหรือผู้ที่สนใจทดลองใช้งานโมเดล AI มัลติโมเดลขนาดใหญ่ที่มีความคุ้มค่าในการประมวลผล
✨ จุดเด่น
- รองรับมัลติโมเดล — รับอินพุตได้ทั้งข้อความและรูปภาพพร้อมกันในโมเดลเดียว
- Context 1M — รองรับหน้าต่างบริบทสูงสุดถึง 1,048,576 tokens
- ประหยัดทรัพยากร — ใช้พารามิเตอร์เพียง 12B active parameters ต่อโทเค็นจากพารามิเตอร์รวม 220B
- สถาปัตยกรรม MoE — ผสานระบบ Mixture-of-Experts และ Hybrid attention เข้าด้วยกัน
🙋 ใครเหมาะจะลอง: เหมาะสำหรับนักพัฒนาและผู้สนใจด้าน AI ที่ต้องการทดลองใช้งานโมเดลขนาดใหญ่ผ่าน Transformers หรือ OpenAI-compatible API โดยจำเป็นต้องมีความรู้ด้านการใช้งานโมเดลภาษาขนาดใหญ่และการรันอินเฟอเรนซ์
ทีมข่าว เอไอไทย.com · เรียบเรียงจากหน้าโปรเจกต์ tencent/Hy4-flash — รายละเอียดล่าสุดดูที่ต้นทาง
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...