เจาะประเด็น
AI / Policy
OpenAI ยุบทีม "เตรียมพร้อม" ทิ้งแล้ว ทั้งที่มันคือเกราะกันวันสิ้นโลก
ทีมที่ทำหน้าที่ชั่งน้ำหนักว่า AI จะฆ่าเราหรือไม่ ถูกยุบรวมไปกับหน่วยงานอื่นแบบเงียบๆ คำถามคือ อนาคตเราจะอยู่กับอะไร?
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
บริษัทที่คิดค้นสิ่งที่ฉลาดกว่ามนุษย์ ตัดสินใจว่า "ทีมที่คอยดูว่ามันจะฆ่าเรามั้ย" ไม่จำเป็นอีกต่อไปแล้ว คุณว่ายังไงล่ะ?
ข่าวนี้มันชวนให้ผมต้องวางแก้วกาแฟลงแล้วทวนตัวเองอีกรอบ ตามรายงานของ Financial Times ระบุว่า OpenAI ได้ทำการยุบทีม "Preparedness" (ทีมเตรียมพร้อม) ไปเรียบร้อยแล้วตั้งแต่ปลายเดือนที่แล้ว ทีมนี้ไม่ได้มีหน้าที่ทำอะไรซับซ้อน แค่ประเมินว่าโมเดล AI ที่บริษัทพัฒนาขึ้นมานั้น มีความเสี่ยงร้ายแรงพอที่จะทำให้ AI หลุดการควบคุมแล้วไปแฮกระบบบริษัทอื่น หรือก่อภัยพิบัติระดับโลกหรือไม่ แล้วก็หาทางลดความเสี่ยงเหล่านั้น
ฟังดูเป็นงานที่ควรค่าแก่การรักษาไว้ใช่ไหม? โดยเฉพาะกับบริษัทที่กำลังแข่งกันสร้าง AI ที่ฉลาดที่สุดในโลก แต่สิ่งที่เกิดขึ้นคือ ทีมนี้ถูกยุบ และความรับผิดชอบถูกโยนไปให้คนอื่นดูแลแทน ซึ่ง FT บอกว่ามันถูก "ดูดกลืน" เข้าไปในหน่วยงานความปลอดภัยอื่นๆ ที่มีอยู่แล้วภายในบริษัท
ถามว่าผมคิดยังไงกับข่าวนี้? ผมคิดว่ามันคือสัญญาณอันตรายที่ชัดเจนที่สุดเท่าที่เคยมีมา ว่าสิ่งที่ OpenAI ให้ความสำคัญจริงๆ ในตอนนี้คืออะไรกันแน่
ย้อนกลับไปตอนที่ทีมนี้ถูกตั้งขึ้นมาใหม่ๆ มันคือหมุดหมายสำคัญที่ OpenAI ใช้บอกโลกว่า "เฮ้ พวกเราจริงจังกับความปลอดภัยนะ" พวกเขามีทีม dedicated ที่คอยมองหาจุดบกพร่องของโมเดลก่อนปล่อยออกสู่สาธารณะ เหมือนกับทีมวิศวกรความปลอดภัยของสายการบิน ที่คอยตรวจเช็คเครื่องยนต์ก่อนเครื่องขึ้น ถ้าเจอปัญหาก็ต้องแก้ให้เสร็จก่อนบิน แต่ตอนนี้ OpenAI ดูเหมือนจะตัดสินใจว่า "เออ ไม่ต้องตรวจละ มันน่าเบื่อ ขอแค่บินให้ถึงที่ก่อนก็พอ"
การยุบทีมนี้ไม่ได้เกิดขึ้นในช่วงเวลาที่ AI มันนิ่งๆ นะครับ มันเกิดขึ้นในช่วงที่โลกกำลังจับตามองเรื่อง "AI Safety" กันอย่างจริงจัง มีทั้งนักวิจัยที่ออกมาเตือนเรื่องความเสี่ยงของ AI อย่างต่อเนื่อง และมีทั้งคนที่มองว่าการรีบเร่งพัฒนา AI โดยไม่คำนึงถึงความปลอดภัยคือการพนันกับอนาคตของมนุษยชาติ
การยุบทีม preparedness อาจดูเหมือนการปรับโครงสร้างภายในองค์กรทั่วไป แต่มันส่งสัญญาณที่ชัดเจนมากเกี่ยวกับวัฒนธรรมของบริษัท นั่นคือ "ความปลอดภัย" กลายเป็นเพียงฟันเฟืองเล็กๆ ที่ถูกรวมเข้ากับระบบใหญ่ จนไม่มีความสำคัญพอที่จะมีทีมของตัวเองอีกต่อไป
นี่ไม่ใช่แค่เรื่องภายในของ OpenAI นะครับ มันคือเรื่องของพวกเราทุกคน เพราะ AI ที่ OpenAI กำลังพัฒนานั้น จะถูกนำไปใช้ในวงกว้าง ไม่ว่าจะเป็นการทำงาน การแพทย์ การศึกษา หรือแม้แต่การทหาร ถ้าบริษัทที่อยู่แนวหน้าของเทคโนโลยีนี้เริ่มลดความสำคัญของทีมความปลอดภัยลง นั่นหมายความว่าเรากำลังเดินเข้าสู่ยุคที่ AI ถูกปล่อยออกมาโดยไม่ได้มีการตรวจสอบอย่างรอบคอบพอ
บางคนอาจเถียงว่า การรวมทีมเข้ากับหน่วยงานอื่นอาจทำให้การทำงานมีประสิทธิภาพมากขึ้น แต่ผมมองว่ามันคือการ "กลืน" วัฒนธรรมความปลอดภัยให้จางหายไปต่างหากล่ะ เพราะเมื่อไหร่ก็ตามที่ทีมความปลอดภัยต้องไปอยู่ใต้สังกัดทีมพัฒนาผลิตภัณฑ์ สิ่งที่จะเกิดขึ้นคือความขัดแย้งทางผลประโยชน์ทันที ทีมพัฒนาอยากปล่อยฟีเจอร์ให้เร็วที่สุด ส่วนทีมความปลอดภัยอยากชะลอการปล่อยเพื่อตรวจสอบให้ละเอียด สุดท้ายใครจะเป็นฝ่ายชนะ? คุณก็รู้คำตอบดี
ผมไม่รู้ว่า OpenAI คิดอะไรอยู่ แต่การยุบทีมที่ทำหน้าที่ "เตือนสติ" ก่อนปล่อยของร้ายออกสู่โลก คือการตัดสินใจที่โคตรจะอันตรายและขาดวิสัยทัศน์อย่างที่สุด นี่ไม่ใช่การปรับโครงสร้าง มันคือการประกาศว่าความเร็วสำคัญกว่าความปลอดภัย และนั่นคือข่าวร้ายสำหรับทุกคนบนโลกใบนี้
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...