โปรเจกต์ AI จาก Tencent บน Hugging Face ที่ช่วยเร่งความเร็วในการสร้างข้อความด้วยเทคนิค DSpine
โปรเจกต์ tencent/Qwen3.8-27B-DSpine-b16 เป็นโมเดลประเภทสร้างข้อความที่พัฒนาโดย Tencent และกำลังได้รับความสนใจบน Hugging Face โดยเป็นโมเดลแบบห้าเลเยอร์สำหรับ Qwen3.8-27B ใช้ขนาดบล็อก 16 และมีหน้าต่างการทำงาน 8,192 โทเค็น
โมเดลนี้ทำงานโดยใช้เทคนิค DSpine สำหรับสร้างโทเค็นร่างแบบขนาน แต่ละเลเยอร์จะส่งผ่านฟีเจอร์พรีดิคชันไปยังตำแหน่งที่อยู่ติดกัน ทำให้สามารถจัดการความสัมพันธ์เชิงเหตุผลผ่านความลึกของเครือข่ายได้ และรันบนระบบประเมินผลที่ใช้ SGLang 0.5.22, BF16, FlashAttention 3 และ concurrency 8
ปัจจุบันโปรเจกต์นี้ได้รับความนิยมบนแพลตฟอร์ม Hugging Face โดยมียอดถูกใจ 269 ครั้ง มียอดดาวน์โหลดสูงถึง 4,873 ครั้ง และติดอยู่อันดับที่ 12 ในหน้ากำลังมาแรง ซึ่งสะท้อนถึงความสนใจจากนักพัฒนาและผู้ใช้งานที่ต้องการทดสอบประสิทธิภาพการทำงาน
✨ จุดเด่น
- สร้างโทเค็นแบบขนาน — สร้างร่างโทเค็นพร้อมกันโดยส่งผ่านฟีเจอร์ไปยังตำแหน่งข้างเคียงผ่านเลเยอร์ต่างๆ
- ขนาดบล็อกและหน้าต่าง — ใช้บล็อกขนาด 16 และมี sliding window ขนาด 8,192 โทเค็น
- สภาพแวดล้อมรันไทม์ — ทดสอบและประเมินผลบน SGLang 0.5.22, BF16, FlashAttention 3 ที่ concurrency 8
🙋 ใครเหมาะจะลอง: เหมาะสำหรับนักพัฒนาซอฟต์แวร์และผู้สนใจด้านโมเดลภาษาขนาดใหญ่ที่ต้องการทดลองใช้งานโมเดลสร้างข้อความ โดยใช้งานผ่าน Hugging Face
ทีมข่าว เอไอไทย.com · เรียบเรียงจากหน้าโปรเจกต์ tencent/Qwen3.8-27B-DSpine-b16 — รายละเอียดล่าสุดดูที่ต้นทาง
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...