ฮาร์ดแวร์ไอ
Hardware
ดีเมทริกซ์ เปิดตัวคลัสเตอร์ประมวลผลเอไอระดับดาต้าเซ็นเตอร์
ระบบประมวลผลขนาดใหญ่ที่ออกแบบมาเพื่องานอินเฟอเรนซ์ความเร็วสูงและการจัดการพลังงานโดยเฉพาะ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
เมื่อการรันโมเดลเอไอเริ่มกินไฟเกินต้าน ฮาร์ดแวร์ที่คิดนอกกรอบเรื่องหน่วยความจำจึงกลายเป็นทางออกที่เลี่ยงไม่ได้
ระยะหลังมานี้ เราได้ยินข่าวเรื่องการฝึกโมเดลเอไอตัวยักษ์กันจนเบื่อ แต่พอถึงเวลาเอามาใช้งานจริงหรือที่เรียกกันว่าอินเฟอเรนซ์ ปัญหาเรื่องความเร็วและค่าไฟกลับกลายเป็นคอขวดชิ้นใหญ่ที่แก้ไม่หายสักที
ล่าสุดทาง d-Matrix เขาเลยขอลงสนามแก้ปัญหานี้แบบจริงจัง ด้วยการประกาศเปิดตัว d-Matrix Squadron ซึ่งเป็นระบบคอมพิวเตอร์แบบหลายชั้นยึดติดกันในตู้แร็ค ที่รวมพลังระดับเมกะวัตต์ไว้รองรับงานเอไอสเกลใหญ่โดยเฉพาะ จุดเด่นคือเน้นเรื่องความเร็วและความประหยัดพลังงานที่เหนือกว่าระบบทั่วไปแบบคนละชั้น
หัวใจสำคัญของเจ้านี่ไม่ได้อยู่ที่การอัดชิปประมวลผลให้แรงขึ้นเรื่อยๆ แบบเดิม แต่เขาเลือกใช้สถาปัตยกรรมที่ยึดหน่วยความจำ1เป็นศูนย์กลาง หรือ memory-centric compute architecture ซึ่งออกแบบมาแก้ทางคอขวดของการรับส่งข้อมูลระหว่างหน่วยความจำกับตัวประมวลผลโดยเฉพาะ
พอมันจัดการเรื่องนี้ได้ดี ผลลัพธ์ที่ได้คือความเร็วในการตอบสนองที่สูงมาก เหมาะสุดๆ กับงานที่เวลาเป็นสิ่งสำคัญยิ่งยวด เช่น การเขียนโค้ดอัตโนมัติ, ระบบเอไอส่วนตัว, งานความปลอดภัยไซเบอร์ ไปจนถึงการเทรดหุ้นความถี่สูงที่ช้าไปเสี้ยววินาทีก็คือจบ
โปรเจกต์นี้ไม่ได้ทำแบบฉายเดี่ยว เพราะเขาจับมือกับค่ายฮาร์ดแวร์ยักษ์ใหญ่ทั้ง Arista, Broadcom และ Supermicro ช่วยกันพัฒนาขึ้นมาจนตอนนี้ระบบที่ว่าถูกติดตั้งใช้งานจริงในดาต้าเซ็นเตอร์ของ d-Matrix ที่แอริโซนาเรียบร้อยแล้ว สำหรับใช้รันงานวิจัยและพัฒนาภายในองค์กร
แถมตอนนี้ของก็เริ่มทยอยส่งมอบให้ลูกค้ากลุ่มพรีเมียมเอาไปขึ้นระบบในดาต้าเซ็นเตอร์ของตัวเองกันแล้วด้วย รวมถึงชิ้นส่วนประกอบหลักอย่างเซิร์ฟเวอร์ Corsair และตู้แร็ค Corsair SquadRacks ก็เริ่มวางจำหน่ายทั่วไปแล้วเช่นกัน
การขยับตัวของ d-Matrix รอบนี้ตอกย้ำให้เห็นว่า ตลาดฮาร์ดแวร์เอไอเริ่มแตกแขนงออกมาชัดเจน ใครที่แก้โจทย์อินเฟอเรนซ์และความคุ้มค่าเรื่องพลังงานได้ก่อน ย่อมกุมความได้เปรียบในวันที่องค์กรทั่วโลกต้องแบกต้นทุนการรันเอไอที่แพงหูฉี่
ที่มา: TechPowerUp — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...