“เมื่อคอขวดของ AI ไม่ใช่ความแรงชิปแต่คือความเร็วในการส่งข้อมูล แสงอาจเป็นคำตอบสุดท้ายที่ทำให้ AI เก่งขึ้นแบบไร้ขีดจำกัด”
เพิ่งนั่งดูพวกสเปกฮาร์ดแวร์ฝั่ง Enterprise มาแล้วไปสะดุดกับตัว MemoryAI Photonic Appliance ของค่าย Penguin Solutions เห็นแล้วมันว้าวมากจนต้องรีบมาตั้งกระทู้คุยกับเพื่อนๆ เลย เพราะปกติพวกเราจะบ่นเรื่อง VRAM ไม่พอเวลาเทรนโมเดลใหญ่ๆ หรือรันพวก Agentic AI ที่มันต้องคิดหลายชั้นจนแรมการ์ดจอดีดตลอด แต่ไอ้เจ้าตัวนี้มันออกมาเพื่อทลายกำแพงนั้นโดยเฉพาะเลยครับ
ความเจ๋งคือเขาไม่ได้ใช้สายทองแดงเชื่อมต่อแบบเดิมๆ แล้วนะแต่เขาใช้เทคโนโลยี Silicon Photonics หรือการส่งข้อมูลด้วยแสงมาเชื่อมต่อหน่วยความจำแทน ซึ่งเขาเคลมว่าเป็นเจ้าแรกในอุตสาหกรรมเลยที่ทำแบบนี้ ผลที่ได้คือเราสามารถขยายแรมออกไปข้างนอก GPU ได้มหาศาลเหมือนเราเสียบฮาร์ดดิสก์เพิ่ม แต่ความแรงดันไปแตะระดับเดียวกับ HBM ที่อยู่บนตัวการ์ดจอเลย คือมันตัดปัญหาคอขวดเรื่องแบนด์วิดท์ทิ้งไปแบบราบคาบ
เอาจริงผมว่านี่คือจิ๊กซอว์ชิ้นสำคัญเลยนะเพราะตอนนี้ GPU แรงแค่ไหนแต่ถ้าส่งข้อมูลเข้าออกไม่ทันมันก็เปล่าประโยชน์ ยิ่งเทรนด์ตอนนี้ไปทาง Agentic AI ที่ต้องใช้ Memory เยอะๆ เพื่อเก็บ Context ยาวๆ เทคโนโลยีนี้จะช่วยให้เราไม่ต้องไปไล่ซื้อ GPU ตัวละล้านเพิ่มเพียงเพราะแค่อยากได้แรมเพิ่ม แต่เราสามารถไปเพิ่มที่ตัว MemoryAI นี้แทนได้เลย ซึ่งมันดูสมเหตุสมผลกว่ามากในแง่การสเกลระบบ
แต่อีกใจก็แอบกังวลว่าราคาในช่วงแรกคงมหาศาลแน่ๆ และความซับซ้อนในการติดตั้งอาจจะสูงกว่าแบบเดิมเยอะพอสมควรเลย กว่าเทคโนโลยีส่งข้อมูลด้วยแสงแบบนี้จะลงมาถึงระดับคนทั่วไปหรือสตูดิโอเล็กๆ ได้คงต้องรอกันอีกพักใหญ่เลยล่ะครับ แต่ถ้ามันทำได้จริงตามที่เคลมไว้ วงการฮาร์ดแวร์ฝั่ง AI น่าจะสะเทือนแน่นอน
เพื่อนๆ คิดว่าเทคโนโลยีการส่งข้อมูลด้วยแสงแบบนี้จะกลายเป็นมาตรฐานใหม่ที่จะมาแทนที่การเชื่อมต่อแบบเดิมๆ ไปเลยไหมครับ แล้วถ้าในอนาคตเรามีแรม GPU แบบไม่จำกัดให้ใช้จริงๆ งานด้าน AI ตัวไหนที่พวกคุณอยากจะลองรันเป็นอย่างแรกถ้าไม่ต้องกังวลเรื่องหน่วยความจำเต็มอีกต่อไป?
เพิ่งนั่งดูพวกสเปกฮาร์ดแวร์ฝั่ง Enterprise มาแล้วไปสะดุดกับตัว MemoryAI Photonic Appliance ของค่าย Penguin Solutions เห็นแล้วมันว้าวมากจนต้องรีบมาตั้งกระทู้คุยกับเพื่อนๆ เลย เพราะปกติพวกเราจะบ่นเรื่อง VRAM ไม่พอเวลาเทรนโมเดลใหญ่ๆ หรือรันพวก Agentic AI ที่มันต้องคิดหลายชั้นจนแรมการ์ดจอดีดตลอด แต่ไอ้เจ้าตัวนี้มันออกมาเพื่อทลายกำแพงนั้นโดยเฉพาะเลยครับ
ความเจ๋งคือเขาไม่ได้ใช้สายทองแดงเชื่อมต่อแบบเดิมๆ แล้วนะแต่เขาใช้เทคโนโลยี Silicon Photonics หรือการส่งข้อมูลด้วยแสงมาเชื่อมต่อหน่วยความจำแทน ซึ่งเขาเคลมว่าเป็นเจ้าแรกในอุตสาหกรรมเลยที่ทำแบบนี้ ผลที่ได้คือเราสามารถขยายแรมออกไปข้างนอก GPU ได้มหาศาลเหมือนเราเสียบฮาร์ดดิสก์เพิ่ม แต่ความแรงดันไปแตะระดับเดียวกับ HBM ที่อยู่บนตัวการ์ดจอเลย คือมันตัดปัญหาคอขวดเรื่องแบนด์วิดท์ทิ้งไปแบบราบคาบ
เอาจริงผมว่านี่คือจิ๊กซอว์ชิ้นสำคัญเลยนะเพราะตอนนี้ GPU แรงแค่ไหนแต่ถ้าส่งข้อมูลเข้าออกไม่ทันมันก็เปล่าประโยชน์ ยิ่งเทรนด์ตอนนี้ไปทาง Agentic AI ที่ต้องใช้ Memory เยอะๆ เพื่อเก็บ Context ยาวๆ เทคโนโลยีนี้จะช่วยให้เราไม่ต้องไปไล่ซื้อ GPU ตัวละล้านเพิ่มเพียงเพราะแค่อยากได้แรมเพิ่ม แต่เราสามารถไปเพิ่มที่ตัว MemoryAI นี้แทนได้เลย ซึ่งมันดูสมเหตุสมผลกว่ามากในแง่การสเกลระบบ
แต่อีกใจก็แอบกังวลว่าราคาในช่วงแรกคงมหาศาลแน่ๆ และความซับซ้อนในการติดตั้งอาจจะสูงกว่าแบบเดิมเยอะพอสมควรเลย กว่าเทคโนโลยีส่งข้อมูลด้วยแสงแบบนี้จะลงมาถึงระดับคนทั่วไปหรือสตูดิโอเล็กๆ ได้คงต้องรอกันอีกพักใหญ่เลยล่ะครับ แต่ถ้ามันทำได้จริงตามที่เคลมไว้ วงการฮาร์ดแวร์ฝั่ง AI น่าจะสะเทือนแน่นอน
เพื่อนๆ คิดว่าเทคโนโลยีการส่งข้อมูลด้วยแสงแบบนี้จะกลายเป็นมาตรฐานใหม่ที่จะมาแทนที่การเชื่อมต่อแบบเดิมๆ ไปเลยไหมครับ แล้วถ้าในอนาคตเรามีแรม GPU แบบไม่จำกัดให้ใช้จริงๆ งานด้าน AI ตัวไหนที่พวกคุณอยากจะลองรันเป็นอย่างแรกถ้าไม่ต้องกังวลเรื่องหน่วยความจำเต็มอีกต่อไป?
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...