เจาะประเด็น
HARDWARE
ส่องสถาปัตยกรรม Nvidia Vera เมื่อ CPU สายเอไอต้องเค้นแบนด์วิดท์ทะลุเพดาน
เจาะวิเคราะห์จาก Chips and Cheese ทำไมค่ายเขียวถึงยอมอัดสถาปัตยกรรมระบบขั้นสุดเพื่อไม่ให้ CPU กลายเป็นตัวถ่วง GPU
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ความเร็วของ GPU ปังแค่ไหนก็ไร้ความหมาย ถ้าระบบส่งข้อมูลของ CPU ตามไม่ทันจนกลายเป็นคอขวดทำทั้งระบบชะงัก
ลองจินตนาการว่าคุณมีรถซูเปอร์คาร์เครื่องยนต์หมื่นแรงม้า แต่ถนนที่วิ่งกลับเป็นเลนเดียวแถวบ้านนอก ต่อให้เครื่องแรงแค่ไหนมันก็วิ่งได้เท่าที่สภาพถนนจะอำนวยนั่นแหละ วงการฮาร์ดแวร์เอไอตอนนี้กำลังเจอปัญหาแบบเดียวกันเป๊ะ ต่อให้ชิปประมวลผลคำนวณไวระดับเทพแค่ไหน ถ้าท่อส่งข้อมูลหรือแบนด์วิดท์ของระบบเค้นมาไม่พอ ทุกอย่างก็จบกันตรงนั้น
ล่าสุดเว็บสายวิเคราะห์ฮาร์ดแวร์เชิงลึกอย่าง Chips and Cheese ออกมาชำแหละสถาปัตยกรรมระบบของ Nvidia Vera ซึ่งเป็นสถาปัตยกรรม CPU ยุคถัดไปของค่ายเขียวที่จะถูกนำไปจับคู่กับชิป Rubin งานนี้บอกเลยว่าไม่ได้มาเล่นๆ เพราะรอบนี้ Nvidia ไม่ได้มอง CPU เป็นแค่ตัวสั่งการทั่วไป แต่จัดเต็มโครงสร้างระบบเพื่อแก้โจทย์คอขวดแบนด์วิดท์แบบไร้ปรานี
ที่ผ่านมา เวลาคนเปิดสเปกดูชิปเอไอ มักจะจ้องแต่ตัวเลขว่า GPU ตัวใหม่เร่งประมวลผลโมเดลได้ไวขึ้นกี่เท่า หรือทำตัวเลข TFLOPS ได้สูงแค่ไหน แต่ในความจริงของศูนย์ข้อมูลระดับการค้า คอขวดที่แท้จริงดันไปตกอยู่ที่ท่อส่งข้อมูลระหว่างตัวชิป หน่วยความจำ และเครือข่ายเชื่อมต่อ ถ้าระบบป้อนข้อมูลให้ GPU กินไม่ทัน ชิปตัวละล้านก็ทำได้แค่นั่งคอยเก้อ
Vera เลยถูกออกแบบมาเพื่อทลายข้อจำกัดนี้โดยเฉพาะ ด้วยการดันแบนด์วิดท์ระบบขึ้นไปอีกขั้น ไม่ว่าจะเป็นท่อเชื่อมต่อสถาปัตยกรรม NVLink ยุคใหม่ ไปจนถึงการจัดการการไหลของข้อมูลในระดับแคชและหน่วยความจำ เพื่อให้แน่ใจว่าไม่มีจังหวะไหนที่ชิปต้องรอดาต้า
บางคนอาจจะคิดในใจว่า "แชทถามอะไรนิดหน่อย ทำไมต้องแคร์เรื่องแบนด์วิดท์ขนาดนั้น?" แต่ถ้าขยับออกมามองภาพกว้าง วงการเอไอตอนนี้เดินมาถึงจุดที่ขนาดโมเดลใหญ่ระดับแสนล้านพารามิเตอร์ การขนย้ายข้อมูลข้ามไปมาระหว่างโหนดกินทั้งพลังงานและเวลาโคตรมหาศาล ใครจัดระเบียบการส่งข้อมูลได้ราบรื่นกว่า คนนั้นคือผู้ชนะตัวจริงในตลาด
มุมมองของ Chips and Cheese ชี้ให้เห็นชัดเจนว่า ความน่ากลัวของ Nvidia ไม่ใช่แค่เรื่องที่เขาทำ GPU ได้แรง แต่คือการที่เขามองเห็นภาพรวมทั้งระบบ เขาออกแบบ CPU อย่าง Vera มาเพื่อรองรับสถาปัตยกรรมเครือข่ายทั้งหมดได้อย่างสมบูรณ์แบบ ทิ้งห่างคู่แข่งที่ยังง่วนกับการเบ่งความแรงชิปเดี่ยวๆ อยู่หลายปีแสง
ค่ายอื่นที่คิดจะมางัดกับ Nvidia ในฝั่งเซิร์ฟเวอร์ ถ้ายังมองไม่ออกว่าศึกนี้มันก้าวข้ามเรื่องความเร็วการคำนวณไปสู่เรื่องแบนด์วิดท์ระดับระบบแล้ว บอกเลยว่าเหนื่อยหนักแน่ ตราบใดที่ยังสร้างท่อส่งข้อมูลที่ใหญ่และเร็วเท่าระบบของค่ายเขียวไม่ได้ การจะเจาะเค้กชิ้นใหญ่ในศูนย์ข้อมูลก็เป็นได้แค่ฝันหวาน
Nvidia Vera คือตัวอย่างที่ชัดเจนว่าศึกฮาร์ดแวร์เอไอในปัจจุบัน วัดกันที่ความสามารถในการเค้นแบนด์วิดท์ของทั้งระบบ และค่ายเขียวกำลังถือไพ่เหนือกว่าทุกคนในเกมนี้แบบเห็นๆ
ที่มา: Reddit r/hardware — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...