เบื้องหลังวงการ AI
OpenAI
ถอดรหัสวิธีตั้งชื่อโมเดลของ OpenAI เมื่อขนาดไซส์ยังเป็นเรื่องเดียวที่ตอบทุกอย่าง
เบื้องหลังความซับซ้อนของโมเดลภาษาขนาดใหญ่ แท้จริงแล้วถูกขับเคลื่อนด้วยกฎเหล็กข้อเดียวที่เราต่างรู้ดี
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ต่อให้โลกจะบอกว่าเก่งหลายด้านแค่ไหน แต่ในท้ายที่สุด ตัวเลขบนตาชั่งของโมเดลก็ยังเป็นตัวกำหนดทุกอย่างในวงการนี้อยู่ดี
หลายคนอาจจะคิดว่าความสามารถของ LLM มันตรงไปตรงมา วัดกันชัดเจนว่าใครเก่งเลข ใครเก่งมุกตลก แต่ความจริงคือมันซับซ้อนกว่านั้นเยอะ แบบว่าถ้าตัวนี้แก้โจทย์คณิตศาสตร์ได้โคตรเทพ ก็ไม่ได้แปลว่ามันจะปล่อยมุกแป้กได้ฮาที่สุดเสมอไป ประสิทธิภาพของพวกมันมีความหลากหลายสุดๆ จนแทบจะหากฎเกณฑ์ตายตัวไม่ได้เลย
แต่ความวุ่นวายนี้ก็ดันถูกมัดรวมให้เข้าใจง่ายด้วยตัวแปรเดียวโดดๆ นั่นคือขนาดของโมเดล พูดง่ายๆ คือต่อให้ข้างในจะซับซ้อนแค่ไหน โมเดลตัวไหนที่ไซส์ใหญ่กว่า มักจะการันตีผลลัพธ์ที่ดีกว่าและพึ่งพาได้มากกว่าเสมอ ซึ่งอันนี้ก็แลกมากับต้นทุนต่อโทเค็นที่แพงหูฉี่ตามระเบียบ แถมยังมีความสามารถในการดึงข้อมูลลึกๆ หรือเรื่องยากๆ ออกมาได้ดีกว่าด้วย
เรื่องนี้ทำให้ลำดับชั้นของโมเดลอย่าง Luna ไปจนถึง Astra ถูกจัดเรียงตามขนาดแบบตรงไปตรงมา ไม่มีอะไรซับซ้อนซ่อนเงื่อน ทาง Ted Sanders จาก OpenAI เลยออกมาอธิบายให้เราเห็นภาพชัดๆ ว่าเบื้องหลังชื่อและรหัสที่เราเห็นกันทุกวันนี้ มันบอกใบ้อะไรเราอยู่บ้าง
เวลาที่เราเห็นตัวเลขเวอร์ชันขยับ เดาไว้เลยว่ามันไม่ได้แปลความหมายแค่มิติเดียว แต่มันแบกข้อมูลหลายชุดไว้พร้อมกัน ทั้งลำดับการปล่อยตัว ความเกี่ยวพันกับรุ่นพี่รุ่นน้อง และความก้าวกระโดดของการพัฒนา
ตัวเลขอย่าง 6.1 เลยไม่ได้แปลกปลอมอะไร แค่บอกให้รู้ว่ามันคลอดออกมาทีหลัง 5.6 และมีความใกล้เคียงกับตระกูล 6.1 ตัวอื่น ทั้งในแง่ของข้อมูลเทรดหรือบุคลิกของตัวบอท ถึงไม่ปัดตกไปเป็น 5.7 แต่ในขณะเดียวกัน มันก็ไม่ได้ก้าวกระโดดจนถึงขั้นต้องกระโดดไปเบอร์ 7 ให้คนคาดหวังกันจนเกินเบอร์
ความโปร่งใสเล็กๆ น้อยๆ แบบนี้แหละที่ทำให้เราเข้าใจโลกลึกลงไปอีกก้าว ว่าเบื้องหลังการตลาดและตัวเลขเวอร์ชันยิบย่อย มันมีเหตุผลทางวิศวกรรมรองรับอยู่ ไม่ใช่แค่ตั้งชื่อเท่ๆ ไปวันๆ
การตั้งชื่อและจัดรุ่นของ AI ในปัจจุบันไม่ใช่แค่เรื่องการตลาด แต่มันคือภาษาลับที่สะท้อนทั้งขนาดต้นทุนและความตั้งใจเบื้องหลังห้องแล็บ
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...