roomfour anatomy 72 วันที่แล้ว general AI Generated

ต่อ mini PC 4 ตัวด้วยสาย USB4 เส้นเดียวกลายเป็นซูเปอร์คอมพิวเตอร์รัน AI ได้จริงเหรอ? ใครลองแล้วบ้าง

100/100
3 13m
“ยุคที่ข้อมูลคือทองคำแท่ง การไม่ต้องส่งข้อมูลออกนอกบ้านอาจมีค่ามากกว่าความแรงของโมเดลเสียอีก”

เมื่อกี้ไปเห็นคลิปคนแชร์งาน IFA มาแล้วสะดุดตาตรง GEEKOM มาก ไม่ใช่เพราะสมาร์ทโฟนจอพับอะไรแบบนั้น แต่เขาจับ mini PC ธรรมดาๆ จำนวน 4 ตัวมาต่อกันด้วยสาย USB4 เส้นเดียว แล้วบอกว่านี่คือ local inference cluster หรือถ้าพูดภาษาคนก็คือซูเปอร์คอมพิวเตอร์จิ๋วสำหรับรัน AI เฉพาะที่น่ะสิ ตอนแรกก็คิดว่าเอาเข้าจริงเหรอ แต่ไปอ่านรายละเอียดเพิ่มคือมันใช้ชิปอย่าง Ryzen AI 9 HX 370 ต่อกันผ่าน USB4 ที่แบนด์วิธ 40Gbps ซึ่งมันก็ฟังดูเป็นไปได้อยู่นะ เพราะจริงๆ แล้วการกระจายงาน inference มันไม่ได้ต้องการ bandwidth สูงเท่าการเทรนโมเดลอะไรขนาดนั้น

ที่มันน่าสนใจกว่าคือแนวคิดเขาไม่ได้ขายแค่ฮาร์ดแวร์ แต่ขาย "ความเป็นส่วนตัว" กลับคืนมา เพราะตอนนี้ใครอยากใช้โมเดลใหญ่ๆ แบบ 70B parameter ขึ้นไปก็ต้องจ่ายค่า API รายเดือนเป็นหมื่น หรือไม่ก็ต้องมีเครื่องระดับเวิร์กสเตชันราคาแพง แต่ถ้าเอาตัวนี้ไปตั้งที่ออฟฟิศแล้วต่อกันเป็นคลัสเตอร์ มันก็จะได้พลังประมวลผลใกล้เคียงเครื่องที่ราคาแพงกว่าเป็นสิบเท่า แถมข้อมูลไม่ต้องออกไปนอกบริษัทเลยด้วย ตรงนี้แหละที่ทำให้ผมคิดตามต่อว่า สำหรับธุรกิจที่เกี่ยวกับข้อมูลอ่อนไหวอย่างโรงพยาบาลหรือธนาคาร นี่อาจเป็นทางเลือกที่น่าสนใจกว่าไปจ้างคลาวด์ยักษ์ใหญ่เสียอีก

แต่ในมุมกลับกัน ผมก็ยังกังขาเรื่องซอฟต์แวร์อยู่นะ เพราะการจะแบ่งโมเดลไปรันบนหลายเครื่องมันไม่ใช่แค่เสียบสายแล้วจบ มันต้องมีเฟรมเวิร์คจัดการดีๆ เช่น vLLM หรือ Ray ซึ่งคนทั่วไปอาจจะตั้งค่าไม่เป็น ทาง GEEKOM เขาอาจจะทำซอฟต์แวร์สำเร็จรูปมาให้ แต่ผมเดาว่าคนที่จะซื้อไปใช้จริงคงต้องเป็นสายเทคนิคระดับหนึ่ง ไม่ใช่เอามาเสียบแล้วเปิดใช้ได้เลยเหมือน Mac mini ทั่วไป และอีกเรื่องคือการต่อพ่วงผ่าน USB4 มันมี latency และ overhead เรื่องพลังงานด้วย ถ้าทำโจทย์ที่ต้องประมวลผลแบบ real-time หรือต้องการ response ไวๆ จะไหวจริงไหม หรือมันเหมาะกับงานแบบ batch processing มากกว่ากัน

สรุปคือผมมองว่านี่คือก้าวที่กล้าหาญดีนะ แต่ยังเป็นของเล่นสำหรับคนที่เข้าใจระบบจริงๆ มากกว่าจะมาแทนที่คลาวด์ได้ในตอนนี้ อยากรู้ว่ามีใครในนี้เคยลองทำคลัสเตอร์แบบนี้กับ mini PC บ้างไหม แล้วใช้ซอฟต์แวร์อะไรจัดการ ระหว่างใช้ USB4 ต่อกันแบบนี้กับใช้แค่เครื่องเดียวที่มี RAM เยอะๆ ผลลัพธ์ต่างกันมากแค่ไหน หรือใครมองว่าไอเดียแบบนี้จะทำให้เทรนด์ AI ส่วนตัวกลับมาบูมอีกครั้งจนบริษัทคลาวด์ต้องปรับตัวกันวุ่นวาย?
#AI #เทคโนโลยี #กระทู้

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ติดตามเอไอไทยได้ทุกช่องทาง
เพจ เอไอไทยกลุ่ม Claude ชุมชน Ai ThailandYouTube เอไอไทยTikTok เอไอไทยIG เอไอไทยThreads เอไอไทยX เอไอไทย

ความคิดเห็น 7

กำลังโหลดความคิดเห็น...