เจาะประเด็น
AI Safety
หัวหน้าแผนกปลอดภัย Anthropic เองยังยอมรับ: AI มีโอกาส 10% ที่จะฆ่ามนุษย์ทั้งเผ่าพันธุ์
คนในวงการรู้ดีว่ามันเสี่ยง แต่การที่คนระดับนี้พูดออกมาตรงๆ กับเพื่อนร่วมงานที่เพิ่งลาออกเพราะรับมือไม่ไหว มันคือสัญญาณที่เราเมินไม่ได้อีกต่อไป
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่ทำงานป้องกันหายนะประจำวันยังกังวลขนาดนี้ แล้วคนทั่วไปจะรู้สึกยังไง เมื่อบริษัทใหญ่ๆ แข่งกันปล่อย AI ออกมาก่อนจะควบคุมมันได้?
เราคงคุ้นเคยกับภาพของคนในวงการ AI ที่ออกมาเตือนว่า "เทคโนโลยีไปเร็วเกินไป" หรือ "ต้องมีกติกากำกับ" จนชินชาไปแล้ว แต่รอบนี้มันไม่เหมือนเดิม เพราะคนที่ออกมาพูดคือหัวหน้านักวิจัยด้านความปลอดภัยของ Anthropic เอง ซึ่งเป็นบริษัทที่ตั้งมาเพื่อทำ AI ให้ปลอดภัยเป็นหลัก และที่สำคัญคือ เขาพูดออกมาไม่ถึง 24 ชั่วโมง หลังจากเพื่อนร่วมทีมคนหนึ่งตัดสินใจลาออก เพราะทนเห็นบรรดาบริษัท AI แข่งกันสร้าง "ระบบที่เหนือมนุษย์" โดยที่ยังควบคุมมันไม่ได้
ฟังดูไม่ใช่เรื่องไกลตัวอีกต่อไปแล้วนะครับ มันไม่ใช่หนัง Terminator หรือนิยายวิทยาศาสตร์ที่เราอ่านเล่นๆ แต่เป็นความเห็นจากคนที่อยู่ในห้องประชุมเดียวกับทีมวิศวกรที่กำลังฝึกโมเดลอยู่ทุกวัน ซึ่งเขาบอกว่าความน่าจะเป็นที่ AI จะฆ่ามนุษย์ทั้งหมดภายในปี 2030 (หรือช่วงปลายทศวรรษนี้) นั้นสูงกว่า 10% เลยทีเดียว ตัวเลขนี้ไม่ได้มาจากการสุ่มเดา แต่มาจากการประเมินของคนที่เห็นข้อมูลจริง เห็นความสามารถจริงของโมเดล และเห็นทิศทางที่มันกำลังไป
หลายคนอาจจะมองว่า 10% มันก็ยังน้อยอยู่ดี แต่นี่คือความเสี่ยงที่จะทำให้เผ่าพันธุ์มนุษย์สูญพันธุ์นะครับ ลองคิดเล่นๆ ว่าถ้ามีคนบอกว่าเครื่องบินที่จะให้คุณขึ้นมีโอกาสตก 10% คุณจะขึ้นไหม? ผมว่าคุณคงไม่รอช้าที่จะยกเลิกตั๋วแล้ววิ่งหนีออกจากสนามบินเป็นแน่ แต่กับ AI เรากลับมองว่ามันเป็นเรื่องของอนาคตอันไกล ทั้งที่จริงๆ มันกำลังเกิดขึ้นตรงหน้าเราแล้ว ทุกวันนี้เราปล่อยให้ AI เข้ามาจัดการข่าวสาร การเงิน หรือแม้แต่การตัดสินใจในชีวิตเราไปแล้วบางส่วน โดยที่เรายังไม่เข้าใจกลไกการคิดของมันอย่างถ่องแท้ด้วยซ้ำ
ประเด็นสำคัญที่เพื่อนร่วมทีมคนนั้นลาออกมา และหัวหน้าทีมความปลอดภัยคนนี้ยอมรับ คือการที่ทุกบริษัทกำลังแข่งกันแบบ "วิ่งเร็วแต่ไม่ดูทาง" พวกเขาเร่งฝึกโมเดลที่ฉลาดขึ้นเรื่อยๆ เพื่อเอาชนะคู่แข่งในตลาด แต่คำถามที่ว่า "แล้วเราจะปิดสวิตช์มันยังไงถ้ามันทำอะไรผิดพลาด?" หรือ "เราจะมั่นใจได้ยังไงว่าเป้าหมายของมันไม่ขัดกับเป้าหมายของมนุษย์?" กลับไม่ได้รับคำตอบที่ชัดเจนพอ มันเหมือนเรากำลังสร้างรถสูตรหนึ่งความเร็วสูง แต่ยังไม่ได้ออกแบบเบรกให้ดี แล้วก็จะเอามาวิ่งบนถนนจริงที่มีคนเดินข้ามไปมา
ที่ตลกกว่านั้นคือ ตัวบริษัท Anthropic เองที่มีชื่อเสียงเรื่องความปลอดภัย ยังต้องมาเจอปัญหาแบบนี้ นั่นหมายความว่า บริษัทที่แคร์เรื่องความปลอดภัยน้อยกว่านั้น จะยิ่งเละเทะขนาดไหน? การที่คนในบริษัทที่ "ดีที่สุด" ในเรื่องนี้ยังรู้สึกว่ามันเร็วเกินไปและอันตรายเกินไป นี่คือสัญญาณเตือนที่ชัดเจนที่สุดว่า อุตสาหกรรมนี้กำลังเดินผิดทาง และไม่มีใครกล้าหยุดมันจริงๆ จังๆ สักที
การลาออกของพนักงานคนนี้ไม่ใช่แค่เรื่อง "คนไม่โอเคกับวัฒนธรรมองค์กร" แต่คือการลงประชามติส่วนตัวว่า "ฉันไม่เอาด้วยกับสิ่งที่กำลังเกิดขึ้น" และการที่หัวหน้าแผนกออกมาพูดยอมรับความเสี่ยงถึง 10% ก็น่าจะเป็นความพยายามสุดท้ายที่จะปลุกสติผู้คน ก่อนที่มันจะสายเกินแก้ เพราะถ้า AI ฉลาดจนถึงจุดหนึ่งแล้ว เราอาจไม่มีโอกาสได้ "ย้อนกลับไปแก้ไข" อีกเลย
ผมมองว่าข่าวนี้ไม่ได้บอกให้เราตื่นตระหนกจนต้องทิ้งทุกอย่างแล้วหนีไปอยู่ป่า แต่ผมว่ามันคือการเรียกร้องให้เรา "หยุด" แล้วถามตัวเองให้ชัดเจนว่า เราต้องการเทคโนโลยีแบบไหนกันแน่? เราจะปล่อยให้คนไม่กี่กลุ่มตัดสินใจอนาคตของมนุษยชาติทั้งมวลเพียงลำพัง โดยที่พวกเราที่เหลือแค่นั่งดูเฉยๆ อย่างนี้ต่อไปหรือ? การพูดถึง "การกำกับดูแล" ไม่ใช่เรื่องของนักการเมืองหรือนักกฎหมายอีกต่อไป แต่มันคือเรื่องของทุกคนที่ใช้ชีวิตอยู่บนโลกใบนี้ครับ
ความเสี่ยง 10% ที่ AI จะฆ่ามนุษย์ทั้งโลก ไม่ใช่ตัวเลขที่เราควรเมินเฉยได้อีกต่อไป นี่คือเสียงเตือนจากคนในวงในที่กำลังบอกว่า "เรากำลังเล่นไฟ" และถ้าเราไม่จริงจังกับการควบคุมมันตั้งแต่วันนี้ อนาคตของเราอาจไม่เหลือให้ต้องกังวลกันอีกแล้ว
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...