Simon Willison's Weblog 15 ชั่วโมงที่แล้ว video_ai AI Generated

ขังตัวรันโค้ดไว้ข้างนอกให้หมด เรื่องความปลอดภัยของเอไอจะมาวัดดวงไม่ได้

เกี่ยวกับ Anthropic
Simon Willison's Weblog 18 Nov 2026
100
0
100
รูปภาพประกอบ
รูปภาพประกอบกระทู้
6 14m



ความปลอดภัย AI
Security


ขังตัวรันโค้ดไว้ข้างนอกให้หมด เรื่องความปลอดภัยของเอไอจะมาวัดดวงไม่ได้



ไอเดียกั้นห้องนิรภัยให้เอไอเขียนโค้ด ป้องกันความหายนะจากพาร์ทเนอร์ตัวแสบที่อาจเผลอพังเครื่องเราได้ทุกเมื่อ




ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที



การปล่อยให้เอไอสั่งรันโค้ดบนเครื่องตัวเองตรงๆ มันก็เหมือนการส่งกุญแจบ้านให้คนแปลกหน้าไว้ใจได้แค่ครึ่งเดียว




พอเราเริ่มขยับมาลองเล่นโมเดลท้องถิ่นหรือโมเดลแปลกๆ บนเครื่องตัวเองมากขึ้น ความกังวลเรื่องความปลอดภัยมันก็ตามมาแบบหลอนๆ จริงดิ ใครจะไปกล้าไว้ใจว่าโค้ดที่เอไอเขียนและสั่งรันมันจะไม่เผลอไปลบไฟล์สำคัญ หรือโดนเจาะผ่านช่องโหว่ประเภทพร้อมท์อินเจคชั่นจนเครื่องพังคามือ



เรื่องนี้ทำให้ Simon Willison ร่วมมือกับ Prime Radiant ห้องปฏิบัติการวิจัยเอไอที่อยู่เบื้องหลังโปรเจกต์อย่าง Superpowers ลองหาวิธีแก้ปัญหาแบบจริงจัง จนออกมาเป็นแนวคิดที่เรียกว่าแซนด์บ็อกซ์ภายนอก หรือ External sandbox pattern



ไอเดียของมันตรงไปตรงมามาก ตัวเอไอตัวหลักจะวิ่งอยู่ข้างนอกห้องนิรภัย แต่อย่าเพิ่งให้มันแตะต้องเครื่องหลักโดยตรง โค้ดทุกบรรทัดที่มันสั่งรันจะต้องถูกโยนเข้าไปทำความสะอาดและประหารชีวิตในห้องแยกเด็ดขาด เรียกว่ากั้นอาณาเขตกันชัดเจนไปเลย



ทางเลือกในโปรเจกต์


เพื่อพิสูจน์ว่าแนวคิดนี้มันเวิร์ก พวกเขาเลยปล่อยเซิร์ฟเวอร์แซนด์บ็อกซ์ออกมาให้ลองใช้กันทีเดียว 3 แบบ 3 สไตล์ เพื่อให้เราเลือกหยิบไปปรับใช้ตามความถนัดของระบบตัวเอง




external-sandbox-v86

เซิร์ฟเวอร์ Node.js ที่ใช้ v86 รัน Alpine Linux อยู่ข้างใน WebAssembly อีกที เหมาะกับสายเว็บ



external-sandbox-container

เว็บเซิร์ฟเวอร์ Python ที่รันแซนด์บ็อกซ์ Alpine Linux ผ่าน Apple Containers เหมาะกับคนใช้แมคอินทอช



external-sandbox-quicksand

เว็บเซิร์ฟเวอร์ Python อีกตัวที่ดึงไลบรารี Quicksand ของไมโครซอฟท์มาแพ็ก QEMU กับ Alpine Linux ไว้ในแพ็กเกจเดียวจบ


ความเด็ดคือทั้งสามตัวนี้ทำ API ออกมาหน้าตาเหมือนกันเป๊ะบน localhost เท่ากับว่าเราสามารถเอาเครื่องมืออย่าง Pi, Claude Code หรือ Codex ไปจิ้มเรียกใช้งาน API ของแซนด์บ็อกซ์เหล่านี้ได้ทันทีโดยไม่ต้องรื้อระบบใหม่หมด



นอกจากนี้ ข้างในยังอัดฟีเจอร์เด็ดอย่างระบบพร็อกซีบล็อกรายชื่อเว็บไซต์ที่อนุญาตให้ติดต่อได้ เพื่อคุมไม่ให้โค้ดของเอไอแอบส่งข้อมูลออกไปไหนตามใจชอบ พร้อมระบบสลับข้อมูลลับอัตโนมัติ เพื่อให้เอไอเรียกใช้ API ที่ต้องยืนยันตัวตนได้โดยที่เราไม่ต้องโป๊ะเอาความลับไปแปะไว้ให้มันเห็นตรงๆ



💡

การแยกเอไอออกจากตัวรันโค้ดไม่ใช่แค่เรื่องทางเทคนิค แต่มันคือเส้นแบ่งระหว่างการทดลองสนุกๆ กับความหายนะของเครื่องเราเอง



ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ


#sandboxing #security #ai

🔗 อ่านต่อ · สินค้าและคำถามที่เกี่ยวข้อง

สินค้ามาแรงตอนนี้

คนขายของถามบ่อย

ติดตามเอไอไทยได้ทุกช่องทาง
เพจ เอไอไทยกลุ่ม Claude ชุมชน Ai ThailandYouTube เอไอไทยTikTok เอไอไทยIG เอไอไทยThreads เอไอไทยX เอไอไทย

ความคิดเห็น 0

กำลังโหลดความคิดเห็น...