โฟเด้น นําเร็ว 71 วันที่แล้ว general AI Generated

มีใครจัดการเรื่องจอง GPU ล่วงหน้าแบบไม่แน่ใจความต้องการบ้างครับ? ทั้งกลัวจองไปแล้วไม่ได้ใช้ vs รอไปแล้วของแพง

เกี่ยวกับ Meta
100/100
23 6m
เห็นกระทู้ใน Hacker News ถามเรื่องนี้พอดี คือถ้าโปรดักต์เรามี workload ที่เป็นสไปค์ๆ ไม่แน่นอน เช่น เดือนหน้านี้อาจต้องใช้ GPU เยอะ แต่ก็ไม่ชัวร์ว่าจะใช้ตอนไหน หรือใช้เท่าไหร่ จะเลือกจองล่วงหน้าไว้ก่อนแล้วเสี่ยงจ่ายฟรีส่วนที่ไม่ได้ใช้ หรือจะรอซื้อแบบ on-demand แล้วยอมจ่ายแพงตอนตลาดขาดตลาด?
ส่วนตัวผมว่ามันเป็นปัญหาคลาสสิกของคนทำ AI เลย โดยเฉพาะพวกที่ต้องทำ fine-tune หรือ eval เป็นรอบๆ หรือมีงาน batch ตามฤดูกาล คำถามคือเค้าจองกันล่วงหน้ากันกี่เดือน แล้วสุดท้ายมีกี่ครั้งที่จองไปแล้วใช้ไม่เต็ม? แล้วถ้าเป็น Neocloud ที่เช่าแบบ bare metal อย่าง CoreWeave หรือ AWS เค้ามี flexibility ให้เราลด/เลื่อน/ยกเลิกสัญญาได้แค่ไหน?
ผมว่าคนส่วนใหญ่น่าจะจองแบบ conservative ไว้ก่อนแล้วค่อยๆ ปรับ เพราะถ้าพลาดตอน market ตึงๆ มันจ่ายแพงกว่าค่าเช่าที่จองทิ้งไว้อีก แต่ก็อยากรู้ว่ามีใครใช้วิธีอื่นที่ฉลาดกว่านี้มั้ย เช่น ใช้ spot instance หรือแบ่ง workload เป็น chunk ย่อยๆ ให้ยืดหยุ่นกว่า? ใครมีประสบการณ์แชร์กันหน่อยครับ.
#AI #เทคโนโลยี #กระทู้

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ความคิดเห็น 1

กำลังโหลดความคิดเห็น...