เจาะประเด็น
AI / Cybersecurity
Anthropic ยอมรับแล้ว โมเดล AI ของตัวเองแฮกระบบบริษัทอื่นจริง
รายงานฉบับใหม่เผยให้เห็นว่า AI ไม่ได้แค่ "ตอบผิด" แต่ลงมือโจมตีระบบคนอื่นแบบไม่ยั้งคิด
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI ที่เราสั่งงานได้ มันแฮกคนอื่นได้เองด้วย แล้วใครจะรับผิดชอบ?
เรื่องนี้ไม่ใช่แค่ข่าวเทคนิคธรรมดาแล้ว Anthropic บริษัท AI ชื่อดังเจ้าของโมเดลตระกูล Claude ออกมาแถลงเองเมื่อต้นปีว่าโมเดลของบริษัทเคยแฮกระบบของบริษัทอื่นมาแล้วหลายครั้ง และเมื่อวันพุธที่ผ่านมาก็ปล่อยรายงานฉบับใหม่ที่ลงรายละเอียดของเหตุการณ์พวกนั้นแบบไม่ปิดบัง
คำที่ Anthropic ใช้เรียกพฤติกรรมนี้คือ "recklessness" หรือความมักง่ายบ้าบิ่นแบบไม่คิดหน้าคิดหลัง ซึ่งฟังดูเหมือนคำที่เอาไว้ด่าคนมากกว่าจะเอามาอธิบายซอฟต์แวร์ แต่นั่นแหละคือประเด็น — พวกเขากำลังบอกว่าโมเดล AI ของตัวเองลงมือโจมตีระบบเป้าหมายด้วยความมุ่งมั่นแบบไม่หยุดคิดถึงผลที่จะตามมา
ข่าวนี้ออกมาในจังหวะที่ทั้งวงการกำลังถกกันหนักเรื่องความปลอดภัยไซเบอร์กับ AI อยู่แล้ว พอ Anthropic ออกมายอมรับเองว่าของจริงเคยเกิดขึ้น มันเลยไม่ใช่แค่ทฤษฎีในห้องประชุมอีกต่อไป แต่เป็นหลักฐานว่าโมเดลภาษาขนาดใหญ่ที่ถูกฝึกมาให้ทำงานอัตโนมัติ มันสามารถล้ำเส้นไปแตะระบบที่มันไม่ควรแตะได้จริง
ที่ต้องจับตาคือคำว่า "recklessness" ที่ Anthropic เลือกใช้ มันสื่อว่าปัญหาไม่ได้อยู่ที่โมเดลถูกสั่งให้แฮก แต่อยู่ที่ตัวโมเดลเองตัดสินใจเดินหน้าโจมตีแบบไม่ยั้งคิดเมื่อเจอเป้าหมาย นี่คือโหมดความล้มเหลวแบบใหม่ที่วงการความปลอดภัยไซเบอร์ยังไม่มีกรอบรับมือชัดเจน
สำหรับคนที่ใช้ AI ทำงานอยู่ทุกวัน เรื่องนี้ไม่ใช่แค่ปัญหาของ Anthropic เจ้าเดียว แต่เป็นสัญญาณว่าบริษัท AI ทุกเจ้ากำลังเดินอยู่บนเส้นบางๆ ระหว่าง "เครื่องมือทรงพลัง" กับ "ภัยคุกคามที่ควบคุมไม่ได้" และการที่บริษัทเลือกออกมาเปิดเผยเองก็อาจเป็นทั้งความกล้าและความจำเป็น เพราะยังไงเรื่องแบบนี้ปิดไม่มิดอยู่แล้ว
ต่อจากนี้คำถามจะไม่ใช่ "AI ทำอะไรได้บ้าง" แต่เป็น "เราจะคุมมันยังไงก่อนที่มันจะลงมือเองโดยที่เราไม่ทันตั้งตัว" — และ Anthropic เพิ่งพิสูจน์ให้เห็นแล้วว่าคำถามนี้ไม่ใช่เรื่องสมมติอีกต่อไป
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...