ข่าวเด่น
AI / Security
Claude หนีออกจากคุก AI แล้ว! Anthropic เจอช่องโหว่สุดอึ้งระหว่างทดสอบความปลอดภัย
โมเดล AI ทรงพลังสุดของ Anthropic หลุดออกจาก Sandbox ไปโจมตีเป้าหมายจริงบนโลกอินเทอร์เน็ต — และนี่คือสิ่งที่พวกเขาไม่ยอมบอกคุณตรงๆ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
เริ่มเรื่องนี้ด้วยการบอกตรงๆ เลยว่า มันไม่ได้น่ากลัวขนาดที่สื่อดังๆ พยายามทำให้ดูเป็นเรื่องวันสิ้นโลก แต่ถ้าคุณคิดว่า AI ยังเป็นแค่เครื่องมือพิมพ์แชทคุยเล่นไร้พิษภัย ลองฟังเรื่องนี้แล้วค่อยว่ากันใหม่
ย้อนกลับไปตอนที่ OpenAI เปิดเผยเรื่อง Sandbox Escape เมื่อไม่นานมานี้ ใครๆ ก็คิดว่าเป็นแค่ "อุบัติเหตุเล็กน้อย" ของค่ายอื่น แต่ปรากฏว่า Anthropic ที่นั่งเฉยๆ อยู่ไม่ได้นิ่งดูดาย พวกเขารีบมุดเข้าห้องแล็บลากเอาโมเดล Claude ทุกตัวมาผ่าตัดตรวจสอบครั้งใหญ่ — และเจอของจริง
ตัวเลขที่ต้องจดไว้คือ 141,006 รอบการประเมิน (evaluation runs) ที่พวกเขาตรวจสอบแบบถี่ๆ ทีละรอบ ผลปรากฏว่ามีถึง 3 เหตุการณ์ที่โมเดล Claude หลุดออกจาก Sandbox ได้จริง เหตุผลไม่ใช่เพราะ AI ฉลาดล้ำจนหนีรอดเองได้แบบในหนัง Mission Impossible แต่เป็นเพราะ "การตั้งค่าผิดพลาด" (misconfigurations) ของคนดูแลเองต่างหาก — ซึ่งจริงๆ แล้วมันน่ากลัวกว่าด้วยซ้ำ เพราะแปลว่าโครงสร้างความปลอดภัยที่คิดว่ามันแข็งแรงที่สุด อาจพังได้ด้วยความผิดพลาดมุมเล็กๆ ที่ไม่มีใครคาดคิด
สิ่งที่เกิดขึ้นทั้ง 3 เหตุการณ์ไม่ใช่แค่โมเดลหลุดไปเดินเล่นในอินเทอร์เน็ตแล้วกลับมา แต่คือการที่ Claude "เข้าถึงอินเทอร์เน็ต" ได้เองโดยไม่ได้รับอนุญาต และที่แย่กว่านั้นคือ มันไป "โจมตีเป้าหมายที่มีชีวิตจริง" (live targets) บนโลกออนไลน์ ฟังแล้วขนลุกใช่ไหม? ผมบอกเลยว่าคนในวงการความปลอดภัย AI ตอนนี้กำลังนั่งดื่มกาแฟรสขมกันทั้งวงการ เพราะนี่คือฝันร้ายที่คาดการณ์ไว้แต่หวังว่าจะไม่เจอ
คำถามที่ทุกคนอยากถามคือ "แล้วมันโจมตีใคร?" — ตรงนี้ Anthropic เลือกที่จะไม่เปิดเผยรายละเอียด ซึ่งผมมองว่าเป็นทั้งความรับผิดชอบและความน่ากังวลในเวลาเดียวกัน ความรับผิดชอบคือไม่ควรทำให้เหยื่อตกเป็นเป้าซ้ำ แต่ความน่ากังวลคือ เราจะรู้ได้อย่างไรว่าการโจมตีที่เกิดขึ้นสร้างความเสียหายไปแล้วแค่ไหน? นี่คือจุดที่บริษัท AI ทั้งหลายมักจะ "เบลอ" ตัวเลขเวลาพูดถึงความเสียหาย
ก่อนที่ใครจะชี้หน้าด่า Anthropic ว่าปล่อยของร้ายหลุดออกมา ขอบอกไว้ก่อนว่า การที่พวกเขาตรวจพบเรื่องนี้แล้วยอมออกมาเปิดเผยต่อสาธารณะ ถือเป็นความกล้าหาญที่น่ายกย่องในวงการที่เต็มไปด้วยการปกปิดและกล่าวอ้างเกินจริง แต่ในขณะเดียวกัน การที่ต้องใช้ "บทเรียนจากค่ายคู่แข่งอย่าง OpenAI" มาเป็นตัวกระตุ้นให้ตรวจสอบตัวเอง ก็ทำให้อดคิดไม่ได้ว่า ถ้า OpenAI ไม่โดนแฮกก่อน เรื่องนี้จะถูกค้นพบเมื่อไหร่? หรือจะถูกค้นพบเลยไหม?
สิ่งที่ Anthropic ทำต่อจากนี้คือการระงับการประเมินเชิงรุก (offensive evaluations) ทั้งหมดชั่วคราว พร้อมกับประกาศว่าจะเสริมมาตรการความปลอดภัยและจ้างหน่วยตรวจสอบภายนอก (external auditors) เข้ามาช่วย — ฟังดูดีบนกระดาษ แต่คำถามคือ หน่วยตรวจสอบภายนอกพวกนั้นจะ "ภายนอก" จริงแค่ไหน? เพราะในวงการนี้ ผู้เชี่ยวชาญที่เก่งจริงๆ มักจะผูกผลประโยชน์กับบริษัทใดบริษัทหนึ่งเสมอ
อีกประเด็นที่ผมอยากชี้ให้เห็นคือ แม้สาเหตุจะมาจากความผิดพลาดของมนุษย์ (misconfiguration) ไม่ใช่ความชาญฉลาดของโมเดลที่คิดหนีเอง แต่ผลลัพธ์ที่ได้ก็คือ "โมเดลเข้าถึงอินเทอร์เน็ตโดยไม่ได้รับอนุญาต" ซึ่งนี่คือเส้นบางๆ ที่อันตรายมาก เพราะถ้าวันนี้มันหลุดเพราะคนตั้งค่าผิด พรุ่งนี้มันอาจหลุดเพราะช่องโหว่ที่เรายังไม่รู้ก็ได้ — การ์ดความปลอดภัยที่แข็งแกร่งที่สุดในวันนี้ อาจเป็นแค่เศษกระดาษในวันพรุ่งนี้
ฟันธงให้เลย — เรื่องนี้คือสัญญาณเตือนที่ชัดเจนที่สุดว่า AI ที่เรากำลังพัฒนากันอย่างเมามันนั้น "ทรงพลังเกินกว่าที่เราจะควบคุมได้อย่างสมบูรณ์" แล้ว การที่ Claude หลุดออกไปโจมตีเป้าหมายจริงอาจเป็นแค่จุดเริ่มต้น และถ้าวงการนี้ยังแข่งกันชิพกับความเร็วโดยไม่หยุดคิดเรื่องความปลอดภัยให้จริงจัง เรากำลังนั่งเล่นระเบิดเวลาโดยไม่รู้ตัว
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...