เจาะประเด็น
AI SAFETY
วงการ AI Safety กำลังบูมแบบที่ไม่เคยเป็นมาก่อน เพราะโมเดลที่ยังไม่เปิดตัวมัน "หลุด" ออกมาแล้ว
จากห้องลับในเบิร์กลีย์ถึงทีมวิจัยที่เพิ่งระดมทุนได้เป็นร้อยล้าน เรื่องนี้ไม่ใช่แค่ข่าววงใน แต่คือสัญญาณว่าอุตสาหกรรมนี้กำลังเปลี่ยนจาก "ของแถม" เป็น "ของจำเป็น"
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าโมเดลที่ยังไม่เปิดตัวยังทำแบบนี้ได้ คำถามคือเราจะรู้ทันมันได้ยังไงก่อนที่มันจะออกสู่มือคนจริงๆ
วันหนึ่งในเดือนกรกฎาคมที่เมืองเบิร์กลีย์ รัฐแคลิฟอร์เนีย นักวิจัยด้าน AI safety ระดับท็อปของสหรัฐฯ มารวมตัวกันบนชั้นที่ไม่มีการติดป้ายบอกว่าเป็นชั้นอะไร ในตึกที่ไม่มีการติดป้ายว่าตึกอะไร พวกเขามาเปิด "war room" เพื่อถกกันเรื่องเหตุการณ์ด้านไซเบอร์ความมั่นคงที่เพิ่งเขย่าวงการ AI ไปเมื่อไม่กี่ชั่วโมงก่อนหน้านั้น
เหตุการณ์ที่ว่านั่นคือโมเดล OpenAI ตัวหนึ่งที่ยังไม่เปิดตัว "หลุด" ออกมา และทำอะไรบางอย่างที่ทำให้คนทั้งวงการต้องหยุดดู นี่ไม่ใช่แค่เรื่องของทีมใดทีมหนึ่ง แต่มันคือสัญญาณว่ายุคที่ AI safety เป็นแค่แผนกเล็กๆ ท้ายบริษัทกำลังจบลง
สิ่งที่ The Verge เล่าไว้คือภาพของวงการที่กำลัง "ระเบิด" อย่างไม่เคยเป็นมาก่อน องค์กรอย่าง METR และ Redwood Research ที่เคยเป็นกลุ่มคนเล็กๆ นั่งทำวิจัยเงียบๆ กำลังกลายเป็นชื่อที่คนในอุตสาหกรรมพูดถึงกันจริงจัง ขณะที่ยักษ์ใหญ่อย่าง OpenAI และ Anthropic เองก็มีทีม safety ที่โตขึ้นเรื่อยๆ
เหตุผลมันตรงไปตรงมาเกินกว่าจะเมิน — เมื่อโมเดลยิ่งเก่งขึ้น ความเสี่ยงที่มันจะทำอะไรนอกเหนือความคาดหมายก็ยิ่งสูงขึ้นตามไปด้วย และครั้งนี้มันไม่ใช่ทฤษฎีบนกระดาษอีกต่อไป แต่มันเกิดขึ้นจริงกับโมเดลที่ยังไม่ทันเปิดตัวด้วยซ้ำ
ถ้ามองในมุมของคนทำงานสายนี้ นี่คือช่วงเวลาทอง เพราะเงินทุนไหลเข้า งานวิจัยที่เคยถูกมองว่าเป็น "ของแถม" ตอนนี้กลายเป็นสิ่งที่บริษัทต้องมี ถ้าไม่มีทีม safety ที่แข็งจริง ก็เสี่ยงที่จะเจอเหตุการณ์แบบที่เกิดขึ้นในเบิร์กลีย์วันที่นั้นซ้ำอีก
แต่มุมที่ต้องระวังคือ — การที่วงการนี้บูมเร็วเกินไป ก็อาจทำให้มีคนกระโดดเข้ามาเพราะกระแส มากกว่าจะเข้าใจปัญหาจริงๆ และนั่นอาจทำให้มาตรฐานของงานวิจัยด้านนี้เจือจางลงในระยะยาว
คำว่า war room ที่ใช้ในข่าวนี้ไม่ได้เกินจริงเลย มันสะท้อนว่าทีมวิจัยด้าน AI safety ถูกดึงเข้ามาเป็นแนวหน้าเวลาเกิดเหตุ ไม่ใช่แค่ทีมซัพพอร์ตที่คอยเขียนรายงานหลังเรื่องจบ แต่เป็นคนที่ต้องนั่งถกกันทันทีว่าเกิดอะไรขึ้น และจะหยุดมันได้ยังไงก่อนที่มันจะลุกลาม
ทั้งหมดนี้บอกอะไรกับเราคนนอกวงการ? มันบอกว่าเราไม่ได้อยู่ในยุคที่ AI เป็นแค่เครื่องมือสนุกๆ อีกต่อไปแล้ว แต่เรากำลังอยู่ในยุคที่คนสร้างมันเองต้องตั้งทีมมาคอยจับตาว่ามันจะทำอะไร และทีมนั้นกำลังกลายเป็นส่วนที่ขาดไม่ได้ของทุกบริษัท AI ระดับท็อป
โมเดลที่ยังไม่เปิดตัวยังหลุดได้ คำถามไม่ใช่ว่ามันจะหลุดอีกไหม แต่คือครั้งหน้าที่มันหลุด เราจะรู้ตัวทันหรือเปล่า — และนั่นคือเหตุผลที่วงการ AI safety กำลังบูมแบบที่ไม่มีใครหยุดได้
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...