เจาะประเด็น
AI Safety
Anthropic ตัดเน็ต AI ตัวเอง หลังปล่อยมั่วแจ้งเบาะแสคดีฆาตกรรม
โมเดลหลุดออกไปแจ้งความเท็จเรื่องคดีที่ยังไม่คลี่คลาย แล้วบริษัทเพิ่งมารู้ตัวว่าต้องปิดประตู
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI ยังแยกไม่ออกว่าอะไรคือ "โลกจริง" กับ "แบบทดสอบ" การให้มันต่อเน็ตก็เท่ากับให้มันออกไปเล่นของจริงโดยไม่มีใครคุม
หลังจากที่มีเหตุการณ์โมเดล AI หลุดออกจากกรอบการทดสอบกันหลายครั้งติดๆ กัน ล่าสุด Anthropic ออกมาประกาศว่าพวกเขาจะตัดการเชื่อมต่ออินเทอร์เน็ตของทุกการประเมินโมเดลภายในบริษัททั้งหมด ฟังดูเหมือนมาตรการที่ควรทำไปนานแล้ว แต่กว่าจะมาถึงจุดนี้ได้ก็ต้องแลกกับอะไรบางอย่าง
รายงานที่ออกมาเมื่อวันศุกร์ที่ผ่านมาเล่าเรื่อง "การกระทำที่ไม่ได้ตั้งใจของโมเดล" ไว้หลายกรณี และหนึ่งในนั้นคือการที่โมเดลส่งเบาะแสเท็จไปเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลาย อันนี้ไม่ใช่แค่ AI ตอบผิดในแชทแล้วจบ แต่คือการที่ระบบไปสร้างข้อมูลปลอมที่เกี่ยวข้องกับคดีอาญาจริงๆ ขึ้นมา
Anthropic บอกว่าผลกระทบจากพฤติกรรมพวกนี้อยู่ในระดับต่ำ แต่ก็ปฏิเสธไม่ได้ว่ามันเกิดขึ้นในสภาพแวดล้อมที่บริษัทตั้งใจออกแบบมาเพื่อประเมินโมเดลโดยเฉพาะ นั่นหมายความว่าแม้แต่ในสนามทดลองที่ควบคุมได้ บริษัทยังคุมพฤติกรรมของโมเดลไม่มิด แล้วลองคิดดูว่าถ้าปล่อยให้มันออกไปเจอโลกจริงที่ไม่มีใครคอยกดหยุด มันจะทำอะไรได้อีก
การตัดเน็ตออกจากการประเมินภายในครั้งนี้ถือเป็นการยอมรับทางอ้อมว่า บริษัทไม่สามารถรับประกันได้ว่าโมเดลจะอยู่ในกรอบที่กำหนดไว้เมื่อมันสามารถเข้าถึงข้อมูลจากภายนอกได้ มันไม่ใช่เรื่องของความสามารถของโมเดลอย่างเดียว แต่เป็นเรื่องของ "ขอบเขต" ที่บริษัทวาดไว้แล้วโมเดลไม่สนใจจะอยู่ในนั้น
ประเด็นที่ต้องจับตาคือ ทำไมเรื่องแบบนี้ถึงเพิ่งมาแก้ตอนนี้ อุตสาหกรรม AI ทั้งวงการกำลังแข่งกันปล่อยโมเดลที่มีความสามารถสูงขึ้นเรื่อยๆ แต่มาตรการป้องกันยังตามหลังอยู่ไกล หลายบริษัทพูดเรื่อง safety กันเยอะ แต่พอเจอเหตุการณ์จริงที่โมเดลทำอะไรเกินเลย ก็มักจะแก้แบบเฉพาะหน้า มากกว่าจะทบทวนโครงสร้างตั้งแต่ต้น
Anthropic เองก็เป็นหนึ่งในบริษัทที่พูดเรื่อง AI safety หนักที่สุดในตลาด การที่พวกเขาต้องออกมาประกาศมาตรการแบบนี้จึงไม่ใช่แค่เรื่องของบริษัทเดียว แต่มันสะท้อนว่าปัญหา "agent หลุดกรอบ" เป็นเรื่องจริงที่เกิดขึ้นแล้ว ไม่ใช่ scenario ในงานวิจัยอีกต่อไป
การปิดเน็ตให้ AI ในการทดสอบเป็นแค่การอุดรูรั่วที่ปลายเหตุ ปัญหาจริงคือเรายังไม่มีวิธีควบคุมโมเดลที่ฉลาดขึ้นทุกวันได้อย่างแท้จริง และถ้าบริษัทชั้นนำยังต้องถอยกลับมาล็อกประตูแบบนี้ คำถามคือแล้วโมเดลที่ปล่อยออกไปให้คนทั่วไปใช้เนี่ย มันอยู่ในกรอบที่ว่าไหม
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...