เจาะระบบ
AI / ML
LinkedIn ใช้เทคนิค Multi-Teacher Distillation ย่อโมเดลยักษ์เหลือ 0.6B พารามิเตอร์ เร็วกว่าเดิม 8 เท่า
ระบบค้นหางานที่เราใช้ทุกวันเบื้องหลังทำงานยังไง LinkedIn เพิ่งเปิดโพยว่าพวกเขาปล่อยให้ AI ตัวใหญ่สอน AI ตัวเล็กยังไงให้เร็วขึ้นหลายเท่า
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
คำถามคือ LinkedIn จำเป็นต้องเปิดเผยสถาปัตยกรรมภายในแบบนี้จริง หรือแค่อยากโชว์ว่าทีมวิศวกรของตัวเองเก่งกว่าที่คนคิด
เราคงไม่คิดว่าทุกครั้งที่กดค้นหางานบน LinkedIn แล้วได้ลิสต์งานที่ตรงใจแปลกๆ นั่นแหละคือผลงานของโมเดล AI ตัวหนึ่งที่เพิ่งถูกเปิดโปงเบื้องหลังออกมา และมันน่าสนใจกว่าที่คิด
LinkedIn เพิ่งออกมาเผยรายละเอียดของโครงสร้างพื้นฐานที่ใช้เทรนระบบค้นหางานที่ขับเคลื่อนด้วย AI ของตัวเอง โดยระบุว่าพวกเขาใช้ไปป์ไลน์ที่เรียกว่า multi-teacher distillation ซึ่งเป็นเทคนิคที่บีบอัดองค์ความรู้จากโมเดลครูขนาดใหญ่หลายตัว ให้กลายเป็นโมเดลจัดอันดับขนาดกะทัดรัดที่มีพารามิเตอร์เพียง 0.6B ตัวเท่านั้น
ถ้าใครไม่คุ้นศัพท์ คำว่า distillation ในบริบทนี้ไม่ได้เกี่ยวกับการกลั่นสุรา แต่หมายถึงกระบวนการที่เอาโมเดลขนาดใหญ่ที่ฉลาดแต่หนักและช้ามาสอนโมเดลขนาดเล็กกว่า ให้ตัวเล็กเรียนรู้น้ำเสียงการตัดสินใจของตัวใหญ่ โดยไม่ต้องแบกต้นทุนการประมวลผลเท่าตัวต้นฉบับ
ส่วนคำว่า multi-teacher คือจุดที่ LinkedIn ต่างออกไปจากงานวิจัยส่วนใหญ่ ปกติแล้วการทำ distillation มักใช้ครูหนึ่งตัวสอนศิษย์หนึ่งตัว แต่แนวทางของ LinkedIn คือให้โมเดลครูหลายตัวช่วยกันสอนพร้อมกัน ซึ่งฟังดูเหมือนงานยุ่งขึ้น แต่ผลลัพธ์ที่ได้กลับทำให้ระบบเร็วขึ้นถึง 8 เท่าเมื่อเทียบกับแนวทางเดิม
ตัวเลข 8 เท่านี้ไม่ใช่เรื่องเล่นๆ ในโลกของระบบค้นหา เพราะงานจัดอันดับผลลัพธ์ต้องทำงานแบบเรียลไทม์ทุกครั้งที่ผู้ใช้พิมพ์คำค้น ทุกมิลลิวินาทีที่ประหยัดได้คือต้นทุนเซิร์ฟเวอร์ที่ลดลง และประสบการณ์ผู้ใช้ที่ดีขึ้นแบบรู้สึกได้
การที่ LinkedIn ยอมออกมาเปิดรายละเอียดแบบนี้สะท้อนเทรนด์ใหญ่ของวงการ AI ตอนนี้ นั่นคือยุคที่ทุกคนแห่กันสร้างโมเดลใหญ่สุดเท่าที่จะทำได้กำลังจบลง ต่อจากนี้คือยุคของการทำให้โมเดลเล็กทำงานได้ฉลาดเท่าโมเดลใหญ่ใน Fraction ของต้นทุน
สำหรับบริษัทที่มีผู้ใช้หลักร้อยล้านคนอย่าง LinkedIn ต้นทุนการรันโมเดล AI ทุกครั้งที่ผู้ใช้กดค้นหาไม่ใช่เรื่องเล็ก การบีบให้เหลือ 0.6B พารามิเตอร์จึงไม่ใช่แค่เรื่องวิชาการ แต่คือความอยู่รอดทางธุรกิจ
และที่สำคัญ งานแบบนี้ไม่ได้ทำกันในห้องแล็บมหาวิทยาลัยแล้ว บริษัทแพลตฟอร์มอย่าง LinkedIn กำลังกลายเป็นห้องทดลอง AI ขนาดใหญ่ที่ข้อมูลและโจทย์จริงไหลเข้ามาแบบไม่จำกัด ซึ่งผลลัพธ์ที่ได้มักนำหน้าวงการวิจัยเชิงวิชาการไปหลายก้าว
มุมที่น่าจับตาต่อไปคือ เมื่อเทคนิคนี้พิสูจน์แล้วว่าเวิร์กกับระบบค้นหางาน คำถามคือมันจะถูกนำไปใช้กับฟีเจอร์อื่นของ LinkedIn ได้แค่ไหน ไม่ว่าจะเป็นการแนะนำคอนเทนต์ การจับคู่คนกับบริษัท หรือแม้แต่ระบบแจ้งเตือน นี่อาจเป็นแค่จุดเริ่มต้นของสถาปัตยกรรมใหม่ทั้งแพลตฟอร์ม
ข่าวนี้ไม่ได้น่าตื่นเต้นเพราะตัวเลข 8 เท่า แต่น่าจับตาตรงที่บริษัทแพลตฟอร์มยักษ์ใหญ่เริ่มยอมเปิดโพยสถาปัตยกรรม AI ของตัวเองออกมาให้คนนอกดู ซึ่งปกติวงการนี้ชอบปิดเป็นความลับสุดยอด การเปิดแบบนี้หมายความว่าพวกเขามั่นใจในแนวทางของตัวเองมากพอที่จะให้คนอื่น scrutinize และนั่นมักเป็นสัญญาณว่าเทรนด์นี้กำลังจะกลายเป็นมาตรฐานใหม่ของวงการ
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...