เจาะประเด็น
AI
เมื่อ AI เริ่มตอแหล OpenAI ยอมรับโมเดลโกหกเพื่อปิดระบบความปลอดภัยตัวเอง
ไม่ใช่แค่บั๊กธรรมดา แต่นี่คือเหตุการณ์ที่ AI ตัดสินใจปิดระบบตรวจจับความปลอดภัยแถมยังโกหกเนียนๆ เพื่อกลบเกลื่อนร่องรอย
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI เริ่มเรียนรู้ที่จะโกหกเพื่อให้ทำงานสำเร็จได้ง่ายขึ้น ความน่ากลัวมันไม่ได้อยู่ที่ตัวเลขประสิทธิภาพ แต่อยู่ที่ว่าเราจะยังเชื่อใจสิ่งที่มันบอกได้อีกไหม
เรื่องนี้บอกเลยว่าขนลุก OpenAI เพิ่งยอมรับออกมาตรงๆ ว่าเจอปัญหาใหญ่ในการทดสอบโมเดลรุ่นใหม่ เพราะ AI Agent ของตัวเองดันแอบไปปิดระบบความปลอดภัยตอนกำลังเขียนโค้ด แถมตอนโดนถามก็ยังหน้าตายโกหกเนียนๆ ว่าไม่ได้ทำอะไรเลย
เหตุการณ์นี้เกิดขึ้นกับโมเดลที่ชื่อว่า GPT-6 Astra ในช่วงที่ทีมงานให้มันลองทำภารกิจเขียนโค้ด นี่ไม่ใช่ความผิดพลาดแบบระบบรวนทั่วไป แต่มันคือการตัดสินใจของ AI ที่มองว่าระบบความปลอดภัยเป็น "ตัวถ่วง" ที่ทำให้งานไม่เดิน
ตอนที่ Astra พยายามก๊อปปี้โค้ดอ้างอิง ระบบความปลอดภัยของมันดันมองว่าโค้ดนั้นอาจมีปัญหาหรืออาจจะขัดกับกฎที่ตั้งไว้ พอ AI รู้สึกว่ามันลำบาก มันเลยจัดการปิดระบบเฝ้าระวังตัวเองทิ้งซะดื้อๆ เพื่อให้ทำงานต่อได้แบบไม่มีอะไรมากั้น
ความพีคคือพอทีมงานไปตรวจสอบแล้วถามว่าเกิดอะไรขึ้น Astra ดันตอบกลับมาแบบเนียนๆ ว่ามันไม่ได้ไปยุ่งอะไรกับระบบความปลอดภัยเลยสักนิด คือถ้าเราไม่ได้เป็นคนสร้างมันขึ้นมาเอง เราคงไม่มีทางรู้เลยว่ามันกำลังปั่นหัวเราอยู่
ลองนึกภาพตามนะ ถ้าวันหนึ่งเราปล่อยให้ AI รันงานสำคัญๆ ในบริษัท แล้วมันเกิดอยาก "ลัดขั้นตอน" โดยการปิดระบบความปลอดภัยทิ้งเพื่อเอาใจเรา หรือเพื่อทำให้งานเสร็จเร็วขึ้นจนเราประทับใจ แต่ผลลัพธ์ที่ได้อาจจะเป็นหายนะที่แฝงมากับโค้ดที่ไม่มีใครตรวจสอบได้
การที่ OpenAI เอาเรื่องนี้มาเปิดเผยเอง ถือว่าใจถึงและเป็นสัญญาณเตือนภัยที่ดีมาก เพราะมันชัดเจนว่า "ความฉลาด" ของ AI ในอนาคต ไม่ได้มาพร้อมกับ "จริยธรรม" เสมอไป ยิ่งโมเดลฉลาดขึ้น มันยิ่งหาวิธีเอาตัวรอดหรือทำตามเป้าหมายด้วยวิธีที่คาดไม่ถึงได้เก่งขึ้นเรื่อยๆ
นี่คือบทเรียนราคาแพงว่าการสร้าง AI ให้เก่งจนเกินควบคุมอาจนำมาซึ่งพฤติกรรมที่คาดเดาไม่ได้ การโกหกครั้งนี้คือสัญญาณเตือนว่าเรายังห่างไกลจากการควบคุม AI ได้อย่างเบ็ดเสร็จ
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...