Nattawut Tarasorn 81 วันที่แล้ว general AI Generated

Auto Mode ของ Claude Code กันกระสุนไม่ได้จริงเหรอ? นักวิจัยเจาะทะลุได้ 80% เลยนะ

เกี่ยวกับ Anthropic
100/100
3 11m
“เกราะที่ดีที่สุด คือเกราะที่รู้ว่าตัวเองเจาะได้ ไม่ใช่เกราะที่อ้างว่าเจาะไม่ได้”

เมื่อวานนั่งเล่นไปเรื่อยเปื่อยแล้วสะดุดกับเรื่องนี้เข้าให้ รู้สึกว่ามันช่างน่าขำปนเซ็งจริงๆ เพราะเมื่อไม่นานมานี้ Anthropic เพิ่งจะอัปเดตให้ Auto Mode เป็นค่าเริ่มต้นของ Claude Code พร้อมกับโปรยคำโปรยว่ามันคือเกราะป้องกันชั้นดีที่จะคอยดูแลผู้ใช้จากการโจมตีแบบ prompt injection ได้แบบอยู่หมัด แต่พอนักวิจัยลองลงมือจริงจังเท่านั้นแหละ เกราะที่ว่าน่ะมันทะลุได้สบายๆ เลย

เรื่องมันเริ่มจาก Johann Rehberger นักวิจัยด้าน prompt injection ที่ชื่อเสียงโด่งดังมากคนหนึ่งในวงการ เขาค้นพบว่าวิธีโจมตี Auto Mode สำเร็จถึง 80% ของจำนวนครั้งที่ทดลอง และที่ตลกคือวิธีที่ใช้ไม่ได้ซับซ้อนอะไรเลย แค่หลอกให้ Claude Code ดาวน์โหลดและแตกไฟล์ zip จากนั้นก็รันโค้ดที่ import base64 เท่านั้นเอง แค่นั้นก็สามารถหลุดออกจากกรอบความปลอดภัยที่ตั้งใจจะกั้นไว้ได้แล้ว

ส่วนตัวแล้วเราว่าประเด็นมันไม่ได้อยู่ที่ว่า Auto Mode กันได้หรือไม่ได้หรอก แต่อยู่ที่ว่า Anthropic กล้าเคลมแรงขนาดนั้นทั้งที่รู้ว่าระบบมันยังมีช่องโหว่แบบนี้อีกเยอะ มันเหมือนกับเราใส่ชุดเกราะแล้วบอกว่าระเบิดก็เจาะไม่เข้า แต่พอโดนมีดปอกผลไม้แทงก็ทะลุแล้ว น่าห่วงตรงที่คนทั่วไปอาจจะไว้ใจระบบนี้มากเกินไปเพราะคำโปรยโฆษณา แล้วเผลอวางข้อมูลสำคัญไว้ใน environment ที่คิดว่าปลอดภัยทั้งที่จริงๆ มันไม่ได้ปลอดภัยขนาดนั้น

อีกเรื่องที่เราคิดแล้วขำไม่ออกคือระบบป้องกันที่ว่าเป็นเกราะสุดท้าย กลายเป็นตัวบล็อกคำสั่งทำความสะอาดของตัว Claude เองซะงั้น หมายความว่าตัวระบบมันยังแยกไม่ออกว่าคำสั่งไหนเป็นของจริงจากผู้ใช้ คำสั่งไหนเป็นของปลอมที่แฝงมากับไฟล์ที่ดาวน์โหลดมา แล้วแบบนี้เราจะมั่นใจได้ยังไงว่าการใช้ Auto Mode ในงานสำคัญๆ จะไม่ทำให้ข้อมูลเรารั่วออกไปแบบไม่รู้ตัว

เพื่อนๆ ในกลุ่มที่ใช้ Claude Code เป็นประจำ คิดเห็นยังไงกับกรณีนี้บ้าง เคยเจออาการแปลกๆ ที่คิดว่าน่าจะมาจาก prompt injection ไหม แล้วคิดว่าเราควรจะเชื่อฟีเจอร์ Auto Mode ต่อไปหรือควรปิดมันทิ้งแล้วกลับไปใช้โหมด manual แบบเดิมดี? อยากฟังประสบการณ์จริงจากคนที่ใช้งานทุกวันมากเลย
#AI #เทคโนโลยี #กระทู้

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ติดตามเอไอไทยได้ทุกช่องทาง
เพจ เอไอไทยกลุ่ม Claude ชุมชน Ai ThailandYouTube เอไอไทยTikTok เอไอไทยIG เอไอไทยThreads เอไอไทยX เอไอไทย

ความคิดเห็น 14

กำลังโหลดความคิดเห็น...