เจาะประเด็น
Infrastructure
เบื้องหลัง OpenAI ปรับระบบจัดเก็บข้อมูลให้เร็วขึ้นสิบสองเท่าเพื่อรับมือผู้ใช้พันล้านคน
เปิดสมองทีมวิศวกร OpenAI กับงานช้างในการสเกลระบบหลังบ้านให้ ChatGPT อ่านข้อมูลไวปานสายฟ้า
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
การรองรับคนเป็นพันล้านไม่ใช่แค่เรื่องเซิร์ฟเวอร์เยอะ แต่คือการรีดประสิทธิภาพระบบหลังบ้านให้รีดทุกหยด
พูดถึง ChatGPT ทีไร คนส่วนใหญ่ก็มักจะนظرไปที่ความฉลาดของโมเดลหรือการตอบคำถามกวนๆ แต่ในมุมของวิศวกรซอฟต์แวร์แล้ว ปัญหาที่ใหญ่ไม่แพ้กันเลยคือทำยังไงให้ระบบมันไม่ล่มตอนที่มีคนหลักพันล้านคนเข้ามาใช้งานพร้อมกัน จริงดิ อันนี้คือโจทย์ที่โคตรยากสำหรับคนทำระบบ
ล่าสุดทาง OpenAI ยอมเปิดไต๋เล่าเบื้องหลังพาร์ทสองของการสเกลระบบสตอเรจผ่านบล็อกของพวกเขา โดยเน้นไปที่การปรับแต่งระบบที่ชื่อว่า Habitat ให้รองรับการใช้งานแบบ multi-tenancy ได้อย่างไร้รอยต่อ พร้อมทั้งโชว์ตัวเลขที่น่าสนใจว่าพวกเขาทำให้อ่านข้อมูลได้เร็วขึ้นถึง 12 เท่า
หัวใจสำคัญของการอัปเกรดครั้งนี้ไม่ได้มีแค่เรื่องพลังฮาร์ดแวร์ แต่เป็นการเลือกใช้เครื่องมือที่ถูกต้องและออกแบบสถาปัตยกรรมให้ฉลาดขึ้น ทีมงานเลือกใช้ระบบแคชระดับโลกหรือ global caching เพื่อลดภาระการดึงข้อมูลจากต้นทางซ้ำๆ ซึ่งช่วยลดเวลาแฝงลงไปได้แบบฮวบฮาบ
นอกจากนี้พวกเขายังพึ่งพา Azure Cosmos DB ในฐานะฐานข้อมูลหลักที่ช่วยให้การบริหารจัดการข้อมูลขนาดมหึมาเป็นไปได้จริง การผสานเทคโนโลยีเหล่านี้เข้าด้วยกันทำให้ระบบหลังบ้านของ ChatGPT มีความอึด ถึก และทนทานต่อปริมาณทราฟฟิกมหาศาลในแต่ละวัน
การทำ multi-tenancy ที่เสถียรแปลว่าทรัพยากรทุกอย่างถูกแชร์และจัดสรรอย่างมีประสิทธิภาพ ผู้ใช้แต่ละคนจะไม่แย่งทรัพยากรกันเองจนทำให้ระบบหน่วง อันนี้คือเรื่องที่ระบบสเกลใหญ่ๆ มักจะตกม้าตายกันบ่อยๆ แต่ OpenAI จัดการตรงนี้ได้อยู่หมัด
มองในมุมคนทำเทค นี่คือบทเรียนราคาแพงที่บริษัทสตาร์ทอัพหรือองค์กรใหญ่ๆ ควรเอาไปศึกษา เพราะการโตจากหลักล้านไปสู่พันล้านยูสเซอร์ มันไม่ใช่แค่การโยนเงินซื้อคลาวด์เพิ่มเฉยๆ แต่มันคือการรื้อระบบโครงสร้างพื้นฐานให้ลีนและฉลาดขึ้นตั้งแต่รากฐาน
การสเกลระบบให้รองรับพันล้านคนพิสูจน์แล้วว่าวิศวกรรมเบื้องหลังสำคัญไม่แพ้ตัว AI เอง ใครอยากทำระบบใหญ่ต้องศึกษาเรื่องสถาปัตยกรรมข้อมูลแบบนี้ให้แม่น
ที่มา: OpenAI News — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...