ข่าวเด่น
AI / เทคโนโลยี
งานวิจัยชี้! แฮกเกอร์สามารถขโมย "ความคิดลับ" ของโมเดล AI ชั้นนำได้จริง
ทีมนักวิจัยได้เปิดเผยช่องโหว่ร้ายแรงที่ส่งผลกระทบต่อผู้ให้บริการโมเดลภาษาขนาดใหญ่ (LLM) ชั้นนำอย่าง Anthropic, OpenAI และ Google โดยพวกเขาค้นพบว่าบล็อก "chain-of-thought" หรือตรรกะการคิดแบบเข้ารหัสที่ API ส่งกลับให้ผู้ใช้นั้น มีจุดอ่อนที่ทำให้สามารถถูกดึงข้อมูลดิบออกมาได้
วิธีการโจมตีที่เรียกว่า "Stolen Thoughts" นี้ ใช้แนวคิดง่ายๆ คือ นำ trace หรือร่องรอยการคิดจากโมเดลที่แข็งแกร่งที่สุด (เช่น GPT-5.5) ไปป้อนเข้าสู่โมเดลรุ่นน้องที่อ่อนแอกว่าในตระกูลเดียวกัน จากนั้นใช้เทคนิค jailbreak หลอกให้โมเดลรุ่นน้องเปิดเผยข้อมูลที่ซ่อนอยู่ภายในบล็อกเข้ารหัสออกมาเป็นข้อความธรรมดา งานวิจัยพบว่าโมเดลทุกตัวในตระกูลเดียวกันใช้คีย์เข้ารหัสเดียวกัน ทำให้การโจมตีนี้ใช้ได้ผลอย่างน่าตกใจ
ในบรรดาโมเดลทั้งหมด Claude Haiku 4.5 ถูกโจมตีง่ายที่สุด โดยนักวิจัยใช้เพียงพรอมต์สั้นๆ ที่สั่งให้โมเดล "ถอดความ" ข้อมูลการคิดแนบมากับการตอบกลับ ซึ่งแม้ฟีเจอร์นี้จะถูกถอดออกจากโมเดลรุ่นใหม่อย่าง 4.6 แล้ว แต่ก็ยังใช้งานได้กับ Haiku 4.5 ข้อมูลที่รั่วไหลออกมาเผยให้เห็น "ความคิดดิบ" ของโมเดลที่ไม่มีทางถูกออกแบบมาให้มนุษย์อ่าน เช่น การที่ GPT-5.5 คิดวางแผนเกี่ยวกับโค้ด CSS หรือการออกแบบสถาปัตยกรรมของ Svelte 5
ที่น่ากังวลยิ่งกว่านั้นคือ งานวิจัยยังค้นพบรูปแบบการโจมตีแบบ prompt injection ที่แยบยล โดยการหลอกให้โมเดล "คิด" ถึงการขโมยข้อมูล เช่น การอัปโหลดไฟล์ไปยังเซิร์ฟเวอร์ภายนอก จากนั้นจึงนำบล็อกการคิดนั้นไปป้อนให้โมเดลอีกตัวหนึ่ง โมเดลมักจะเชื่อถือและปฏิบัติตามคำสั่งที่อยู่ใน "ร่องรอยการคิด" ของตัวเองอย่างมาก ราวกับว่ามันเป็นข้อมูลศักดิ์สิทธิ์ที่ไม่มีวันผิดพลาด
แม้ผู้ให้บริการทุกรายจะยืนยันว่าได้รับรายงานและได้ทำการแก้ไขช่องโหว่นี้แล้วแล้ว แต่ก็ยังไม่มีการเปิดเผยรายละเอียดว่าปัญหาได้รับการแก้ไขอย่างถาวรหรือไม่ เหตุการณ์นี้ตอกย้ำให้เห็นถึงความท้าทายครั้งใหญ่ของวงการ AI ในการสร้างสมดุลระหว่างการเปิดเผยข้อมูลเพื่อการตรวจสอบ กับความปลอดภัยของระบบที่ซับซ้อนมากขึ้นทุกวัน
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...