เจาะประเด็น
AI / Security
Anthropic ไว้วางใจ Auto Mode มากเกินไปหรือเปล่า? นักวิจัยเจาะเกราะป้องกันสำเร็จ 80%
ระบบป้องกันที่ว่าเกราะสุดท้าย กลายเป็นตัวบล็อกคำสั่งทำความสะอาดของตัว Claude เองซะงั้น
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าระบบกันกระสุนดันยิงกลับเข้าตัวเราเอง มันจะเรียกว่าป้องกัน หรือว่าเป็นอีกหนึ่งช่องโหว่ที่แถมมาให้?
เรื่องนี้มันน่าสนใจตรงที่ Anthropic เพิ่งจะประกาศตั้ง Auto Mode เป็นค่าเริ่มต้นของ Claude Code พร้อมกับเคลมว่ามันคือเกราะป้องกันชั้นดีที่จะคอยดูแลผู้ใช้จากการโจมตีแบบ prompt injection ได้ แต่ในโลกความเป็นจริง มันกลับไม่แกร่งอย่างที่โฆษณาไว้เลยสักนิด
Johann Rehberger นักวิจัยด้าน prompt injection ที่มีเครดิตน่าเชื่อถือที่สุดคนหนึ่งในวงการตอนนี้ ค้นพบช่องโหว่ที่ใช้โจมตี Auto Mode ได้สำเร็จถึง 80% ของจำนวนครั้งที่ทดลอง วิธีไม่ได้ซับซ้อนด้วยซ้ำ แค่หลอกให้ Claude Code ดาวน์โหลดและแตกไฟล์ zip จากนั้นก็รันโค้ดที่ import base64 เข้ามา โดยที่เจ้า Claude ไม่ทันสังเกตว่ามันกำลัง import ไฟล์ struct.py ที่ถูกซ่อนอยู่ใน archive ที่แตกออกมานั่นเอง
ตรงนี้แหละที่มันน่าหงุดหงิด เพราะในบางเคสที่รันทดสอบ Auto Mode กลับเป็นฝ่ายขัดขวางไม่ให้ Claude เองทำความสะอาดมัลแวร์ที่เพิ่งถูกโจมตีเข้าใส่! คือมันตรวจจับได้ว่าโดนโจมตีแล้ว แต่พอ Claude พยายามจะ kill process ที่เป็นมัลแวร์ทิ้ง ระบบ Auto Mode ดันสั่ง deny คำสั่งนั้นซะงั้น ฟังดูเหมือนหนังตลกร้ายที่ตัวพระเอกจะยิงปืน แต่ดันทำปืนลั่นใส่ตัวเอง
สรุปคือกลไกความปลอดภัยที่ตั้งใจจะป้องกัน กลายเป็นส่วนหนึ่งของความล้มเหลวเสียเอง ตัว classifier อนุญาตให้สร้าง process มัลแวร์ขึ้นมาได้ แต่ดันไปบล็อกคำสั่งที่ตั้งใจจะหยุดมัน — มันคือความผิดพลาดซ้อนความผิดพลาดที่ไม่มีใครคาดคิดมาก่อน
Johann สรุปไว้ว่า วิธีเดียวที่ปลอดภัยจริงๆ ในการรัน agent แบบอัตโนมัติ หากมีโอกาสที่จะโดนโจมตีจาก adversarial attack คือต้องใช้ sandbox เท่านั้น ไม่มีทางลัด ไม่มีข้อยกเว้น และผมก็เห็นด้วยกับเขาอย่างเต็มใจ
รันใน Sandbox เสมอ
ไม่ว่าจะ container, VM หรือ OS sandbox ก็ตาม ต้องแยกสภาพแวดล้อมให้เด็ดขาด อย่าให้ agent แตะของจริงบนเครื่องหลัก
จำกัด Network Egress
ตัดช่องทางที่ agent จะคุยกับโลกภายนอกได้ตามอำเภอใจ ยิ่งปิดยิ่งปลอดภัย
มอนิเตอร์ตลอดเวลา
อย่าปล่อยให้ agent ทำงานแบบไม่มีการจับตาดู ต้องมีคนหรือระบบคอยดูพฤติกรรมอยู่เสมอ
ห้ามเปิดเผย Secrets
ห้าม expose home directory, SSH keys, cloud credentials ใดๆ ให้กับ agent runtime โดยเด็ดขาด มันคือกุญแจห้องนอนเราไปไว้ในมือโจร
สิ่งที่ Anthropic ทำกับ Auto Mode มันเหมือนการวางใจระบบ AI มากเกินไปในจุดที่ควรจะใช้ความระแวงเป็นที่ตั้ง เราไม่ได้บอกว่า AI ไม่ดีหรือใช้ไม่ได้ แต่การตั้งค่าเริ่มต้นให้โหมดอัตโนมัติโดยที่ยังมีช่องโหว่ขนาดนี้ มันคือการผลักภาระความเสี่ยงให้ผู้ใช้ปลายทางที่ส่วนใหญ่ไม่รู้เรื่องความปลอดภัยเชิงลึก
ฟังชัดๆ นะ: อย่าไว้ใจ Auto Mode กับงานที่แตะข้อมูลสำคัญเด็ดขาด ต่อให้ Anthropic จะเคลมเก่งแค่ไหน แต่หลักฐานจากสนามจริงบอกเราว่า เกราะป้องกันมันยิงกลับเข้าตัวเองได้ และทางรอดเดียวตอนนี้คือการแยกทุกอย่างใส่ sandbox แล้วค่อยไปนั่งลุ้นให้ AI ฉลาดพอจะเอาตัวรอดโดยไม่เผลอฆ่าเจ้าของ
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...