เจาะประเด็น
AI SAFETY
นักวิทยาศาสตร์และนักการเมืองออกโรงเตือน AI ซูเปอร์อัจฉริยะอาจฆ่ามนุษย์หมดภายใน 10 ปี
คำเตือนที่เคยถูกมองว่าเว่อร์ กำลังกลายเป็นวาระระดับโลกที่คนไม่ใช่สายเทคเริ่มพูดถึงจริงจัง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคำเตือนนี้มาจากปากนักวิทยาศาสตร์รางวัลโนเบลและอดีตผู้นำรัฐบาล ไม่ใช่แค่สายเทคในทวิตเตอร์ คำถามคือเราควรเริ่มจริงจังกับมันได้หรือยัง
นี่ไม่ใช่ครั้งแรกที่คนออกมาเตือนเรื่อง AI ฆ่ามนุษย์ แต่ครั้งนี้คนที่พูดไม่ใช่พวกขายของหรือนักเขียนไซไฟ แต่เป็นกลุ่มนักวิทยาศาสตร์ชั้นแนวหน้าและอดีตนักการเมืองที่รวมตัวกันออกแถลงการณ์ผ่านเดอะการ์เดียน ว่าความเสี่ยงจาก AI ซูเปอร์อัจฉริยะ (superintelligence) อาจถึงขั้นทำให้มนุษยชาติสูญพันธุ์ได้ภายในทศวรรษหน้า
ประเด็นคือ คำเตือนแนวนี้เคยถูกหัวเราะใส่มาหลายปี ถูกมองว่าเป็นพวกวิตกเกินเหตุ หรือไม่ก็เป็นเกมการตลาดของบริษัท AI ที่อยากให้คนกลัวแล้วมาซื้อโซลูชันความปลอดภัยของตัวเอง แต่พอคนที่เซ็นชื่อในแถลงการณ์เป็นนักวิจัยระดับแนวหน้าและอดีตผู้นำประเทศที่ไม่มีส่วนได้ส่วนเสียกับการขาย AI มันก็เริ่มยากที่จะปัดตกด้วยประโยคแบบ "ก็แค่ทฤษฎีสมคบคิด"
สิ่งที่เปลี่ยนไปคือจังหวะเวลา ต้นฉบับชี้ว่าคำเตือนนี้ผูกกับกรอบเวลา "ภายใน 10 ปี" ไม่ใช่ "อีกหลายทศวรรษ" แบบที่คนเคยพูดกันสมัยนิยาม AI ทั่วไปยังหมายถึงหุ่นยนต์ในหนัง แต่วันนี้โมเดลภาษาขนาดใหญ่พัฒนาเร็วจนแม้แต่คนในวงการเองยังออกมาบอกว่าตามไม่ทัน และนั่นคือเหตุผลที่กลุ่มผู้เชี่ยวชาญกลุ่มนี้เลือกออกมาเตือนตอนนี้ ไม่ใช่ตอนที่มันสายไปแล้ว
อีกมุมที่ต้องพูดตรงๆ คือคำว่า "ซูเปอร์อัจฉริยะ" ในที่นี้ไม่ได้หมายถึง AI ที่ฉลาดกว่าเราทุกด้านแบบในนิยาย แต่มันหมายถึงระบบที่สามารถตั้งเป้าหมายและวางแผนได้เองในระดับที่มนุษย์ตามไม่ทัน ซึ่งความเสี่ยงไม่ได้มาจาก "AI เกลียดมนุษย์" อย่างที่คนชอบจินตนาการ แต่มากจาก "AI ทำตามเป้าหมายของมันโดยไม่สนใจว่ามนุษย์จะอยู่รอดหรือไม่" ต่างหาก
ถ้ามองในมุมการเมืองและเศรษฐกิจ คำเตือนแบบนี้มีผลกับหลายฝ่ายพร้อมกัน ฝั่งบริษัท AI ยักษ์ใหญ่ต้องเจอแรงกดดันเรื่องกฎระเบียบมากขึ้นเรื่อยๆ ฝั่งรัฐบาลที่กำลังแข่งกันลงทุน AI ต้องชั่งน้ำหนักระหว่างความเร็วกับความปลอดภัย และฝั่งนักวิจัยอิสระที่ออกมาเตือนก็เสี่ยงถูกมองว่าเป็นพวกถ่วงความเจริญของประเทศตัวเอง
แต่ในมุมของคนอ่านทั่วไปที่ไม่ได้อยู่ในวงการเลย สิ่งที่ควรจับตาคือคำถามง่ายๆ ว่าใครเป็นคนกำหนดว่า "ปลอดภัยพอ" แล้วใครมีอำนาจตรวจสอบคำตอบนั้น เพราะถ้าปล่อยให้บริษัทที่สร้าง AI เป็นคนตัดสินเองว่ามันปลอดภัยพอ ก็ไม่ต่างจากการให้คนขายอาวุธเป็นคนเขียนกฎหมายควบคุมอาวุธ
ปฏิเสธไม่ได้ว่าข่าวนี้จะถูกใช้เป็นเครื่องมือในเกมการเมืองระหว่างประเทศด้วย ไม่ว่าจะเป็นฝั่งที่อยากคุม AI ให้เข้มขึ้น หรือฝั่งที่อยากเร่งพัฒนาให้เร็วขึ้นก่อนคู่แข่ง ซึ่งนั่นทำให้คำถามเรื่องความปลอดภัย AI กลายเป็นเรื่องการทูตไปโดยปริยาย ไม่ใช่แค่เรื่องเทคนิคของวิศวกรอีกต่อไป
และสำหรับคนที่ทำงานสายเทคโดยตรง คำเตือนนี้ไม่ใช่เรื่องไกลตัวอีกต่อไป เพราะไม่ว่าคุณจะเขียนโค้ดเทรนโมเดลหรือแค่ใช้ AI ช่วยทำงาน ความเร็วที่วงการนี้พัฒนามันหมายความว่าเราทุกคนกำลังอยู่ในช่วงเวลาที่การตัดสินใจของคนไม่กี่กลุ่มส่งผลกับคนทั้งโลกจริงๆ
คำเตือนนี้จะจริงหรือเว่อร์ยังไม่มีใครพิสูจน์ได้ แต่ที่แน่ๆ คือเรากำลังปล่อยให้การพัฒนาเทคโนโลยีที่อาจเปลี่ยนโฉมมนุษยชาติทั้งใบเดินหน้าไปโดยแทบไม่มีกลไกตรวจสอบที่จริงจัง และนั่นคือความเสี่ยงที่เราควบคุมได้เองตั้งแต่วันนี้ ก่อนจะสายเกินไป
ที่มา: The Guardian / Hacker News — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...