ความปลอดภัย AI
Security
ขังตัวรันโค้ดไว้ข้างนอกให้หมด เรื่องความปลอดภัยของเอไอจะมาวัดดวงไม่ได้
ไอเดียกั้นห้องนิรภัยให้เอไอเขียนโค้ด ป้องกันความหายนะจากพาร์ทเนอร์ตัวแสบที่อาจเผลอพังเครื่องเราได้ทุกเมื่อ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
การปล่อยให้เอไอสั่งรันโค้ดบนเครื่องตัวเองตรงๆ มันก็เหมือนการส่งกุญแจบ้านให้คนแปลกหน้าไว้ใจได้แค่ครึ่งเดียว
พอเราเริ่มขยับมาลองเล่นโมเดลท้องถิ่นหรือโมเดลแปลกๆ บนเครื่องตัวเองมากขึ้น ความกังวลเรื่องความปลอดภัยมันก็ตามมาแบบหลอนๆ จริงดิ ใครจะไปกล้าไว้ใจว่าโค้ดที่เอไอเขียนและสั่งรันมันจะไม่เผลอไปลบไฟล์สำคัญ หรือโดนเจาะผ่านช่องโหว่ประเภทพร้อมท์อินเจคชั่นจนเครื่องพังคามือ
เรื่องนี้ทำให้ Simon Willison ร่วมมือกับ Prime Radiant ห้องปฏิบัติการวิจัยเอไอที่อยู่เบื้องหลังโปรเจกต์อย่าง Superpowers ลองหาวิธีแก้ปัญหาแบบจริงจัง จนออกมาเป็นแนวคิดที่เรียกว่าแซนด์บ็อกซ์ภายนอก หรือ External sandbox pattern
ไอเดียของมันตรงไปตรงมามาก ตัวเอไอตัวหลักจะวิ่งอยู่ข้างนอกห้องนิรภัย แต่อย่าเพิ่งให้มันแตะต้องเครื่องหลักโดยตรง โค้ดทุกบรรทัดที่มันสั่งรันจะต้องถูกโยนเข้าไปทำความสะอาดและประหารชีวิตในห้องแยกเด็ดขาด เรียกว่ากั้นอาณาเขตกันชัดเจนไปเลย
เพื่อพิสูจน์ว่าแนวคิดนี้มันเวิร์ก พวกเขาเลยปล่อยเซิร์ฟเวอร์แซนด์บ็อกซ์ออกมาให้ลองใช้กันทีเดียว 3 แบบ 3 สไตล์ เพื่อให้เราเลือกหยิบไปปรับใช้ตามความถนัดของระบบตัวเอง
external-sandbox-v86
เซิร์ฟเวอร์ Node.js ที่ใช้ v86 รัน Alpine Linux อยู่ข้างใน WebAssembly อีกที เหมาะกับสายเว็บ
external-sandbox-container
เว็บเซิร์ฟเวอร์ Python ที่รันแซนด์บ็อกซ์ Alpine Linux ผ่าน Apple Containers เหมาะกับคนใช้แมคอินทอช
external-sandbox-quicksand
เว็บเซิร์ฟเวอร์ Python อีกตัวที่ดึงไลบรารี Quicksand ของไมโครซอฟท์มาแพ็ก QEMU กับ Alpine Linux ไว้ในแพ็กเกจเดียวจบ
ความเด็ดคือทั้งสามตัวนี้ทำ API ออกมาหน้าตาเหมือนกันเป๊ะบน localhost เท่ากับว่าเราสามารถเอาเครื่องมืออย่าง Pi, Claude Code หรือ Codex ไปจิ้มเรียกใช้งาน API ของแซนด์บ็อกซ์เหล่านี้ได้ทันทีโดยไม่ต้องรื้อระบบใหม่หมด
นอกจากนี้ ข้างในยังอัดฟีเจอร์เด็ดอย่างระบบพร็อกซีบล็อกรายชื่อเว็บไซต์ที่อนุญาตให้ติดต่อได้ เพื่อคุมไม่ให้โค้ดของเอไอแอบส่งข้อมูลออกไปไหนตามใจชอบ พร้อมระบบสลับข้อมูลลับอัตโนมัติ เพื่อให้เอไอเรียกใช้ API ที่ต้องยืนยันตัวตนได้โดยที่เราไม่ต้องโป๊ะเอาความลับไปแปะไว้ให้มันเห็นตรงๆ
การแยกเอไอออกจากตัวรันโค้ดไม่ใช่แค่เรื่องทางเทคนิค แต่มันคือเส้นแบ่งระหว่างการทดลองสนุกๆ กับความหายนะของเครื่องเราเอง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...