“ใครบอก AI ต้องมีดาต้าเซ็นเตอร์ตู้ใหญ่ๆ ก่อน ลองฟังทางนี้แล้วกัน”
เมื่อกี้เพิ่งเห็นข่าวนี้มาสดๆ ร้อนๆ รู้สึกสะดุดตรงที่เขาบอกว่าเอา DeepSeek V4 Flash ไปรันบนมินิพีซี GEEKOM A9 Mega จำนวน 4 ตัว แล้วต่อกันด้วย USB4 ให้เป็นคลัสเตอร์เดียว เอาไว้ใช้งานจริงระดับองค์กร ฟังแล้วแบบ... เออ มันใช่เหรอวะ? ปกติเราคุ้นเคยกันว่าโมเดลภาษาใหญ่ๆ ต้องวิ่งบนเซิร์ฟเวอร์ราคาเป็นล้านในห้องแอร์เย็นๆ แต่มาวันนี้เขาบอกว่าแค่มินิพีซีตั้งโต๊ะ 4 ตัวก็พอแล้ว
ลองไปดูสเปกที่เขาเคลมมานะ แต่ละตัวใช้ AMD Ryzen AI Max+ 395 ซึ่งเป็น CPU สถาปัตยกรรม Zen 5 มี 16 คอร์ การ์ดจอเป็น Radeon 8060S แล้วที่เด็ดคือหน่วยความจำแบบ unified memory รวมกันได้เยอะมาก แปลว่าเวลาต่อคลัสเตอร์กันด้วย USB4 มันจะแชร์หน่วยความจำระหว่างเครื่องได้ ตรงนี้แหละที่เป็นหัวใจ เพราะโมเดลใหญ่ๆ มันกินแรมเป็นว่าเล่น ถ้าเมมรวมกันได้พอก็พอจะรันไหว
ส่วนตัวผมมองว่าไอเดียมันเจ๋งและท้าทายความเชื่อเดิมๆ จริงๆ ที่ว่า AI ระดับจริงจังต้องพึ่งดาต้าเซ็นเตอร์เท่านั้น สำหรับ SME หรือบริษัทเล็กๆ ที่งบประมาณจำกัด การซื้อมินิพีซี 4 ตัวน่าจะถูกกว่าเซิร์ฟเวอร์ตัวเดียวหลายเท่า แล้วยังขยายสเกลได้ง่ายกว่าด้วย แต่ที่กังวลคือเรื่องความเสถียรและความเร็วในการเชื่อมต่อ USB4 แม้จะเร็วแต่จะเทียบกับบัสภายในเครื่องหรือเน็ตเวิร์กในดาต้าเซ็นเตอร์ได้จริงเหรอ? แล้วถ้าเครื่องใดเครื่องหนึ่งพังทั้งคลัสเตอร์ก็มีปัญหา การจัดการคลัสเตอร์ด้วย USB4 ก็ดูไม่ง่ายเหมือนเสียบปลั๊กไฟนะ
สุดท้ายเลยอยากถามเพื่อนๆ ในกลุ่มว่า คิดว่าอะไรคือจุดอ่อนที่สุดของการทำคลัสเตอร์มินิพีซีแบบนี้? แล้วถ้าเป็นบริษัทคุณ มีใครกล้าลองใช้วิธีนี้รันโมเดลจริงจังแทนการเช่า cloud หรือซื้อเซิร์ฟเวอร์ไหม? หรือเห็นว่าเป็นแค่กลยุทธ์มาร์เก็ตติ้งของคนขายของกันแน่?
เมื่อกี้เพิ่งเห็นข่าวนี้มาสดๆ ร้อนๆ รู้สึกสะดุดตรงที่เขาบอกว่าเอา DeepSeek V4 Flash ไปรันบนมินิพีซี GEEKOM A9 Mega จำนวน 4 ตัว แล้วต่อกันด้วย USB4 ให้เป็นคลัสเตอร์เดียว เอาไว้ใช้งานจริงระดับองค์กร ฟังแล้วแบบ... เออ มันใช่เหรอวะ? ปกติเราคุ้นเคยกันว่าโมเดลภาษาใหญ่ๆ ต้องวิ่งบนเซิร์ฟเวอร์ราคาเป็นล้านในห้องแอร์เย็นๆ แต่มาวันนี้เขาบอกว่าแค่มินิพีซีตั้งโต๊ะ 4 ตัวก็พอแล้ว
ลองไปดูสเปกที่เขาเคลมมานะ แต่ละตัวใช้ AMD Ryzen AI Max+ 395 ซึ่งเป็น CPU สถาปัตยกรรม Zen 5 มี 16 คอร์ การ์ดจอเป็น Radeon 8060S แล้วที่เด็ดคือหน่วยความจำแบบ unified memory รวมกันได้เยอะมาก แปลว่าเวลาต่อคลัสเตอร์กันด้วย USB4 มันจะแชร์หน่วยความจำระหว่างเครื่องได้ ตรงนี้แหละที่เป็นหัวใจ เพราะโมเดลใหญ่ๆ มันกินแรมเป็นว่าเล่น ถ้าเมมรวมกันได้พอก็พอจะรันไหว
ส่วนตัวผมมองว่าไอเดียมันเจ๋งและท้าทายความเชื่อเดิมๆ จริงๆ ที่ว่า AI ระดับจริงจังต้องพึ่งดาต้าเซ็นเตอร์เท่านั้น สำหรับ SME หรือบริษัทเล็กๆ ที่งบประมาณจำกัด การซื้อมินิพีซี 4 ตัวน่าจะถูกกว่าเซิร์ฟเวอร์ตัวเดียวหลายเท่า แล้วยังขยายสเกลได้ง่ายกว่าด้วย แต่ที่กังวลคือเรื่องความเสถียรและความเร็วในการเชื่อมต่อ USB4 แม้จะเร็วแต่จะเทียบกับบัสภายในเครื่องหรือเน็ตเวิร์กในดาต้าเซ็นเตอร์ได้จริงเหรอ? แล้วถ้าเครื่องใดเครื่องหนึ่งพังทั้งคลัสเตอร์ก็มีปัญหา การจัดการคลัสเตอร์ด้วย USB4 ก็ดูไม่ง่ายเหมือนเสียบปลั๊กไฟนะ
สุดท้ายเลยอยากถามเพื่อนๆ ในกลุ่มว่า คิดว่าอะไรคือจุดอ่อนที่สุดของการทำคลัสเตอร์มินิพีซีแบบนี้? แล้วถ้าเป็นบริษัทคุณ มีใครกล้าลองใช้วิธีนี้รันโมเดลจริงจังแทนการเช่า cloud หรือซื้อเซิร์ฟเวอร์ไหม? หรือเห็นว่าเป็นแค่กลยุทธ์มาร์เก็ตติ้งของคนขายของกันแน่?
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...