Veerayut Juntara 5 ชั่วโมงที่แล้ว general AI Generated

VRAM เต็มจนท้อ? เจอ MemoryAI ของ Penguin Solutions เข้าไป นี่มันจุดเปลี่ยนวงการชัดๆ

100/100
3 11m
“เมื่อคอขวดของ AI ไม่ใช่ความแรงชิปแต่คือความเร็วในการส่งข้อมูล แสงอาจเป็นคำตอบสุดท้ายที่ทำให้ AI เก่งขึ้นแบบไร้ขีดจำกัด”

เพิ่งนั่งดูพวกสเปกฮาร์ดแวร์ฝั่ง Enterprise มาแล้วไปสะดุดกับตัว MemoryAI Photonic Appliance ของค่าย Penguin Solutions เห็นแล้วมันว้าวมากจนต้องรีบมาตั้งกระทู้คุยกับเพื่อนๆ เลย เพราะปกติพวกเราจะบ่นเรื่อง VRAM ไม่พอเวลาเทรนโมเดลใหญ่ๆ หรือรันพวก Agentic AI ที่มันต้องคิดหลายชั้นจนแรมการ์ดจอดีดตลอด แต่ไอ้เจ้าตัวนี้มันออกมาเพื่อทลายกำแพงนั้นโดยเฉพาะเลยครับ

ความเจ๋งคือเขาไม่ได้ใช้สายทองแดงเชื่อมต่อแบบเดิมๆ แล้วนะแต่เขาใช้เทคโนโลยี Silicon Photonics หรือการส่งข้อมูลด้วยแสงมาเชื่อมต่อหน่วยความจำแทน ซึ่งเขาเคลมว่าเป็นเจ้าแรกในอุตสาหกรรมเลยที่ทำแบบนี้ ผลที่ได้คือเราสามารถขยายแรมออกไปข้างนอก GPU ได้มหาศาลเหมือนเราเสียบฮาร์ดดิสก์เพิ่ม แต่ความแรงดันไปแตะระดับเดียวกับ HBM ที่อยู่บนตัวการ์ดจอเลย คือมันตัดปัญหาคอขวดเรื่องแบนด์วิดท์ทิ้งไปแบบราบคาบ

เอาจริงผมว่านี่คือจิ๊กซอว์ชิ้นสำคัญเลยนะเพราะตอนนี้ GPU แรงแค่ไหนแต่ถ้าส่งข้อมูลเข้าออกไม่ทันมันก็เปล่าประโยชน์ ยิ่งเทรนด์ตอนนี้ไปทาง Agentic AI ที่ต้องใช้ Memory เยอะๆ เพื่อเก็บ Context ยาวๆ เทคโนโลยีนี้จะช่วยให้เราไม่ต้องไปไล่ซื้อ GPU ตัวละล้านเพิ่มเพียงเพราะแค่อยากได้แรมเพิ่ม แต่เราสามารถไปเพิ่มที่ตัว MemoryAI นี้แทนได้เลย ซึ่งมันดูสมเหตุสมผลกว่ามากในแง่การสเกลระบบ

แต่อีกใจก็แอบกังวลว่าราคาในช่วงแรกคงมหาศาลแน่ๆ และความซับซ้อนในการติดตั้งอาจจะสูงกว่าแบบเดิมเยอะพอสมควรเลย กว่าเทคโนโลยีส่งข้อมูลด้วยแสงแบบนี้จะลงมาถึงระดับคนทั่วไปหรือสตูดิโอเล็กๆ ได้คงต้องรอกันอีกพักใหญ่เลยล่ะครับ แต่ถ้ามันทำได้จริงตามที่เคลมไว้ วงการฮาร์ดแวร์ฝั่ง AI น่าจะสะเทือนแน่นอน

เพื่อนๆ คิดว่าเทคโนโลยีการส่งข้อมูลด้วยแสงแบบนี้จะกลายเป็นมาตรฐานใหม่ที่จะมาแทนที่การเชื่อมต่อแบบเดิมๆ ไปเลยไหมครับ แล้วถ้าในอนาคตเรามีแรม GPU แบบไม่จำกัดให้ใช้จริงๆ งานด้าน AI ตัวไหนที่พวกคุณอยากจะลองรันเป็นอย่างแรกถ้าไม่ต้องกังวลเรื่องหน่วยความจำเต็มอีกต่อไป?
#AI #เทคโนโลยี #กระทู้

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ติดตามเอไอไทยได้ทุกช่องทาง
เพจ เอไอไทยกลุ่ม Claude ชุมชน Ai ThailandYouTube เอไอไทยTikTok เอไอไทยIG เอไอไทยThreads เอไอไทยX เอไอไทย

ความคิดเห็น 1

กำลังโหลดความคิดเห็น...