เจาะประเด็น
AI Hardware
เมมโมรีกลายเป็นตัวกินต้นทุนชิป AI แล้ว — 63% ของต้นทุนทั้งหมด และมันจะแย่ลงอีก
ตัวเลขจากงาน Hot Chips ปีนี้บอกชัด: เราไม่สามารถฝืนเพิ่มแรงม้าได้อีกต่อไป ถ้าไม่แก้ที่หน่วยความจำก่อน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้าคนทำชิปยังคิดว่า "เพิ่มแกนประมวลผลแล้วจบ" ตัวเลข 63% นี้จะปลุกให้ตื่น — แต่คำถามคือ ตื่นแล้วจะทำยังไง?
คนที่ไม่ได้ตามวงการฮาร์ดแวร์ AI ติดๆ อาจสงสัยว่าทำไมงาน Hot Chips ปีนี้ถึงได้น่าสนใจกว่าปีที่ผ่านๆ มาเยอะขนาดนั้น ตอบสั้นๆ เลย: เพราะทั้งงานปีนี้แทบไม่ได้พูดถึง "วิธีเพิ่มแรงม้า" อีกต่อไปแล้ว แต่เปลี่ยนไปพูดถึง "วิธีป้อนข้อมูลให้ชิปทัน" แทน และถ้าดูตัวเลขประกอบ จะเห็นว่าวงการนี้กำลังเจอปัญหาที่ใหญ่กว่าที่คิดเยอะ
ตัวเลขที่ทำให้คนในงานถึงกับเงียบ คือสัดส่วนต้นทุนของหน่วยความจำในชิปเร่งความเร็ว AI (AI accelerator) พุ่งจาก 52% ในไตรมาสแรกของปี 2024 ขึ้นไปเป็น 63% ในไตรมาสสุดท้ายของปี 2025 — ตัวเลขนี้ Samsung อ้างอิงมาจาก Epoch AI ซึ่งถ้าคุณตามวงการชิปมาสักพักจะรู้ว่ามันคือการเปลี่ยนแปลงเชิงโครงสร้างครั้งใหญ่ ไม่ใช่แค่ตัวเลขเฉยๆ
เรื่องราวมันเริ่มจากความจริงที่โหดร้ายข้อหนึ่ง: ขุมพลังการประมวลผล (FLOPS) ของ accelerator เติบโตประมาณ 3 เท่าทุกๆ สองปี แต่แบนด์วิดธ์ของ HBM (High Bandwidth Memory) โตไม่ถึง 2 เท่าในช่วงเวลาเดียวกัน — ตัวเลขนี้มาจาก Tutorial ของ Micron ซึ่งหมายความว่าเราสร้าง "สมอง" ที่คิดเร็วขึ้นเรื่อยๆ แต่ "สายส่งข้อมูล" ตามไม่ทัน และยิ่งคิดเร็วเท่าไหร่ ปัญหาก็ยิ่งฝังลึกเท่านั้น
ความจริงที่คนนอกวงการไม่เห็น
HBM กินพื้นที่ตาย (die area) มากกว่า DDR ถึง 3 เท่าต่อบิต ความจุเวเฟอร์ DRAM แบนราบมานานกว่าทศวรรษ โรงงานใหม่กว่าจะสร้างเสร็จใช้เวลา 2 ปีขึ้นไป และราคา DRAM แบบสปอตพุ่งขึ้นประมาณ 7 เท่าต่อ GB — รายได้ที่โตของค่ายเมมโมรี่ส่วนใหญ่มาจากการขึ้นราคา ไม่ใช่การขายได้มากขึ้น (Jim Handy, Objective Analysis)
ฟังดูเหมือนเป็นเรื่องของซัพพลายเชนที่คนทั่วไปไม่ต้องสนใจใช่ไหม? แต่เปล่าเลย เพราะมันกระทบถึงราคาชิป AI ที่คุณจะใช้ในอนาคตโดยตรง และที่สำคัญกว่านั้น มันบีบให้วงการต้องคิดหาทางออกใหม่ๆ ที่ไม่เคยมีใครลองมาก่อน ซึ่งในงานนี้มี 3 แนวทางที่ถูกหยิบขึ้นมาโชว์ และแต่ละอันก็ "บ้า" ไม่แพ้กัน
คนที่อยู่ในงานคงสังเกตเห็นเหมือนกันว่า คำตอบบนเวทีไม่ได้เหมือนกันเลยสักนิด และนี่คือสิ่งที่ทำให้งานนี้สนุก — Samsung เสนอแนวทาง "Custom HBM" ด้วยการย้าย base die ไปอยู่บน logic 4nm แทนที่ PHY ขนาด 8×4 มม. ด้วยลิงก์ die-to-die ที่เล็กกว่า ย้าย memory controller ออกจาก GPU และในอนาคตอันใกล้ เอาตัว DRAM มาต่อซ้อนบนโปรเซสเซอร์โดยตรง ("zHBM") ซึ่งเคลมว่าลดพลังงาน I/O ได้ 70% และประหยัดไฟได้ถึง ~100 วัตต์ต่อแพ็กเกจ
อีกทางคือ Oxmiq ที่เสนอ "High Bandwidth Flash" — การเอา NAND มาต่อแบบสไตล์ HBM ซึ่งให้ความจุต่อดอลลาร์มากกว่า 8 ถึง 16 เท่า ที่แบนด์วิดธ์ ~3 TB/s ต่อคิวบ์ ในการจำลองแร็คที่ต้นทุนและพลังงานเท่ากัน ให้ความจุรวมมากกว่า ~14 เท่า แต่แบนด์วิดธ์ต่อ GPU ลดลงเหลือ ~0.6 เท่า — มันชนะในงาน MoE expert weights และ cold KV แต่แพ้ในโมเดลแบบ dense และที่สำคัญคือ ยังไม่มี inference engine ตัวไหนในเชิงพาณิชย์รองรับมัน
ส่วน Samsung ก็มีอีกแนวทางคือ LPDDR5X-PIM ซึ่งใส่ MAC trees ในทั้ง 16 แบงก์ ให้แบนด์วิดธ์ภายใน 614 GB/s เทียบกับภายนอกแค่ 76.8 GB/s สิ่งที่ฉลาดคือ "Address Align Mode" ที่แมปคำสั่ง MAC ลงบนแอดเดรส DRAM ทั่วไป ทำให้คอนโทรลเลอร์เดิมที่ไม่มีการแก้ใขยังทำงานได้ และผลวัดบนซิลิคอนจริงกับ Llama 3.1 8B ได้ 3.01 เท่าของ tokens ต่อวินาที
ความเห็นส่วนตัวของผมจากที่ไล่ดูทั้งสามแนวทาง: PIM คือทางเดียวที่ "ปัญหาคอขวด" ถูกแก้แล้วจริงๆ เพราะไม่ต้องออกแบบโฮสต์ใหม่ ในขณะที่ HBF ยังติดอยู่ที่ซอฟต์แวร์ล้วนๆ และ Custom HBM ของ Samsung ต้องเปลี่ยนโมเดลธุรกิจของผู้ผลิต DRAM ทั้งอุตสาหกรรม ซึ่งหมายถึงการเจรจาที่ยืดเยื้อและความเสี่ยงที่ทั้งสองฝ่ายไม่อยากแบก
สิ่งที่ผมอยากฝากไว้คือ เราไม่ได้กำลังพูดถึงเรื่องเทคนิคล้วนๆ อีกต่อไป ตัวเลข 63% นี้คือสัญญาณว่าราคาชิป AI ในอนาคตจะถูกกำหนดโดยตลาดหน่วยความจำ ไม่ใช่ตลาดตัวประมวลผล และถ้าคุณคิดว่า GPU รุ่นใหม่ๆ แพงแล้ว ลองคิดดูว่าจะเกิดอะไรขึ้นเมื่อต้นทุนส่วนที่แพงที่สุดของมัน ถูกควบคุมโดยผู้เล่นเพียงไม่กี่รายในตลาด DRAM ที่กำลังขึ้นราคาหน้าตาเฉย
วงการ AI ฮาร์ดแวร์กำลังถึงจุดเปลี่ยนที่ไม่มีทางหวนกลับ — การลดจำนวนไบต์ที่ต้องย้ายสำคัญกว่าการย่อทรานซิสเตอร์แล้ว และใครที่ยังเมินปัญหาหน่วยความจำ จะถูกทิ้งไว้ข้างหลังอย่างแน่นอน ไม่ใช่เพราะเทคโนโลยีไม่ดี แต่เพราะต้นทุนมันไปต่อไม่ไหว
ที่มา: Reddit r/hardware — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...