เจาะประเด็น
AI Safety
นักวิจัย Anthropic ลาออก พร้อมเตือน AI ที่พัฒนาได้เองอาจ "ฆ่ามนุษย์ทั้งหมด"
คนที่ทำงานอยู่เบื้องหลัง AI ชั้นนำ กำลังบอกลาแล้วตะโกนเตือนว่าเรากำลังเล่นกับอะไรอยู่
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
คนที่สร้าง AI เก่งที่สุดในโลก กำลังลาออกจากงานเพื่อเตือนว่า สิ่งที่เขากำลังสร้างอาจฆ่าเราทุกคน
นี่ไม่ใช่ข่าวที่นักวิจัย AI ทั่วไปออกมาเตือนเรื่องหุ่นยนต์ครองโลกแบบในหนังไซไฟอีกแล้ว แต่เป็นคนที่ทำงานอยู่ในบริษัท AI ชั้นแนวหน้าของโลกอย่าง Anthropic — บริษัทที่ขึ้นชื่อเรื่องการให้ความสำคัญกับ AI safety มากกว่าคู่แข่งรายอื่น — ออกมาลาออกจากตำแหน่งตัวเอง และทิ้งข้อความเตือนที่ฟังแล้วขนลุกว่า AI ที่พัฒนาและปรับปรุงตัวเองได้อาจ "ฆ่ามนุษย์ทั้งหมด" ได้จริง
ประเด็นสำคัญคือคำว่า "earnestly believe" หรือเชื่ออย่างจริงจัง ไม่ใช่แค่ทฤษฎีสมคบคิดหรือความกังวลเชิงปรัชญาแบบที่คนในวงการชอบพูดกันในงานประชุม แต่เป็นการออกมาแสดงจุดยืนของคนที่รู้จักเทคโนโลยีนี้จากข้างในจริงๆ ว่าเขาคิดว่ามันเป็นภัยคุกคามระดับที่อาจถึงขั้นทำลายล้างมนุษยชาติ
Anthropic ไม่ใช่บริษัทเล็กๆ ที่ใครก็ไม่รู้จัก แต่เป็นหนึ่งในบริษัทชั้นนำด้าน AI ของโลก เป็นคู่แข่งตรงของ OpenAI และ Google DeepMind บริษัทนี้ก่อตั้งโดยอดีตพนักงานของ OpenAI ที่ออกมาเพราะกังวลเรื่องทิศทางความปลอดภัยของ AI ดังนั้นเวลาคนจาก Anthropic ออกมาเตือนว่า AI อาจฆ่าเราทุกคน มันไม่ใช่คำพูดลอยๆ จากคนนอกวงการ แต่เป็นสัญญาณจากคนที่อยู่ตรงจุดที่รู้ดีที่สุดว่ากำลังเกิดอะไรขึ้น
คำว่า "self-improving AI" หรือ AI ที่พัฒนาและปรับปรุงตัวเองได้ คือหัวใจของความกังวลนี้ ปัจจุบันโมเดล AI ส่วนใหญ่ยังต้องมีมนุษย์คอยฝึกและปรับแต่ง แต่ถ้าเมื่อไหร่ที่ AI สามารถออกแบบเวอร์ชันที่ดีกว่าตัวเองได้เองซ้ำแล้วซ้ำเล่า มันจะเข้าสู่ลูปที่เรียกว่า recursive self-improvement ซึ่งความสามารถจะพุ่งขึ้นแบบที่มนุษย์ตามไม่ทัน นี่คือจุดที่นักวิจัยสาย AI safety กลัวกันมานาน เพราะถ้าเราคุมไม่ได้ตั้งแต่แรก มันจะไม่มีโอกาสแก้ตัวอีกเลย
คำพูดนี้ฟังดูเหมือนประโยคจากหนัง แต่บริบทคือมันถูกพูดโดยคนที่ทำงานสร้าง AI อยู่ทุกวัน ไม่ใช่คนที่มองจากข้างนอก แล้วตัดสินใจลาออกเพื่อบอกโลกว่าสิ่งที่เขาทำอยู่มันอันตราย นี่คือสัญญาณที่วงการ AI ควรหยุดฟังให้ดี เพราะคนที่ออกมาพูดแบบนี้มักไม่ใช่คนที่ได้ประโยชน์จากการทำให้เรื่องดูน่ากลัว แต่กลับเป็นคนที่ยอมเสียงานและชื่อเสียงเพื่อพูดความจริง
ต้องบอกตรงๆ ว่าเรื่องนี้ไม่ใช่เรื่องที่ควรถูกมองข้ามในฐานะ "นักวิจัยหัวร้อนอีกคน" หรือ "คนวิตกเกินเหตุ" อีกต่อไป เพราะจำนวนคนในวงการที่ออกมาเตือนแบบนี้เพิ่มขึ้นเรื่อยๆ และหลายคนคือคนที่อยู่แถวหน้าของการพัฒนาโมเดลโดยตรง ความน่ากลัวไม่ใช่แค่ AI จะฉลาดขึ้น แต่คือเรายังไม่รู้ด้วยซ้ำว่าจะควบคุมมันยังไงถ้ามันฉลาดกว่ามนุษย์แล้ว การที่บริษัท AI ยังแข่งกันปล่อยโมเดลใหม่เร็วขึ้นทุกปี ในขณะที่งานวิจัยด้านความปลอดภัยตามหลังอยู่ไกล นี่คือความไม่สมดุลที่คนในวงการเองก็เริ่มทนไม่ไหว
เมื่อคนที่สร้าง AI ออกมาบอกว่า AI อาจฆ่าเราทุกคน คำถามไม่ใช่ "จริงหรือเปล่า" อีกต่อไป แต่คือ "เราจะรอให้สายเกินไปก่อนค่อยทำอะไรหรือเปล่า"
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...