“การปล่อยให้ AI สั่งรันโค้ดบนเครื่องตรงๆ ก็เหมือนยื่นกุญแจบ้านให้คนแปลกหน้าที่เราไว้ใจได้แค่ครึ่งเดียว”
ช่วงนี้ผมเริ่มหลอนๆ เวลาลองรันพวก Local LLM หรือโมเดลแปลกๆ ในเครื่องตัวเอง ยิ่งพอเห็นคนเริ่มพูดถึงประเด็นความปลอดภัยกันมากขึ้น ผมยิ่งรู้สึกว่าเราจะมามัววัดดวงไม่ได้แล้วนะ คือเราไว้ใจโค้ดที่ AI เขียนออกมาได้แค่ไหนเชียวว่ามันจะไม่ไปแตะต้องไฟล์สำคัญหรือทำเครื่องพังคามือ
ล่าสุดผมไปเจาะลึกแนวคิดเรื่อง External sandbox pattern ที่ Simon Willison กับทีม Prime Radiant ผู้อยู่เบื้องหลังโปรเจกต์ Superpowers เขาพยายามผลักดันอยู่ คือเขาเสนอให้ขังตัวรันโค้ดไว้ข้างนอกให้หมดเลย ไม่ใช่แค่กั้นห้องในเครื่องเราธรรมดาๆ แต่มันคือการสร้างห้องนิรภัยแยกส่วนออกมาเพื่อป้องกันพวกช่องโหว่ประเภท Prompt Injection ที่อาจจะโดนเจาะเข้ามาสั่งลบไฟล์หรือขโมยข้อมูลเราได้ทุกเมื่อ
ผมว่าไอเดียนี้มันเมคเซนส์มากนะ เพราะการปล่อยให้ AI สั่งรันโค้ดบนสภาพแวดล้อมเดียวกับข้อมูลสำคัญของเรามันอันตรายเกินไป ต่อให้เป็นโมเดลที่คิดว่าปลอดภัยก็เถอะ แต่ผมก็ยังแอบกังขาอยู่นิดๆ ว่าในทางปฏิบัติคนทั่วไปจะยอมเสียเวลาเซ็ตอัพอะไรที่มันซับซ้อนขนาดนี้ไหม หรือสุดท้ายจะยอมเสี่ยงเพราะความสะดวกสบายมากกว่าความปลอดภัยกันแน่
ส่วนตัวผมมองว่าถ้าจะไปให้สุด ทางเลือกแบบ Sandbox ภายนอกนี่แหละคือคำตอบที่ยั่งยืนที่สุดในยุคที่ AI เก่งขึ้นเรื่อยๆ แบบนี้ เราต้องเลิกมองว่ามันคือแค่เครื่องมือธรรมดา แล้วมองว่ามันคือพาร์ทเนอร์ที่อาจจะทำเราพังได้ถ้าไม่คุมให้ดี แล้วเพื่อนๆ ในกลุ่มล่ะครับ ปกติเวลารันโค้ดที่ AI เขียนให้ มีวิธีป้องกันยังไงกันบ้าง หรือว่าปล่อยรันสดๆ ในเครื่องเลยเพราะคิดว่าคงไม่มีอะไร? แล้วคิดว่า Docker อย่างเดียวมันเอาอยู่ไหมสำหรับเคสนี้?
ช่วงนี้ผมเริ่มหลอนๆ เวลาลองรันพวก Local LLM หรือโมเดลแปลกๆ ในเครื่องตัวเอง ยิ่งพอเห็นคนเริ่มพูดถึงประเด็นความปลอดภัยกันมากขึ้น ผมยิ่งรู้สึกว่าเราจะมามัววัดดวงไม่ได้แล้วนะ คือเราไว้ใจโค้ดที่ AI เขียนออกมาได้แค่ไหนเชียวว่ามันจะไม่ไปแตะต้องไฟล์สำคัญหรือทำเครื่องพังคามือ
ล่าสุดผมไปเจาะลึกแนวคิดเรื่อง External sandbox pattern ที่ Simon Willison กับทีม Prime Radiant ผู้อยู่เบื้องหลังโปรเจกต์ Superpowers เขาพยายามผลักดันอยู่ คือเขาเสนอให้ขังตัวรันโค้ดไว้ข้างนอกให้หมดเลย ไม่ใช่แค่กั้นห้องในเครื่องเราธรรมดาๆ แต่มันคือการสร้างห้องนิรภัยแยกส่วนออกมาเพื่อป้องกันพวกช่องโหว่ประเภท Prompt Injection ที่อาจจะโดนเจาะเข้ามาสั่งลบไฟล์หรือขโมยข้อมูลเราได้ทุกเมื่อ
ผมว่าไอเดียนี้มันเมคเซนส์มากนะ เพราะการปล่อยให้ AI สั่งรันโค้ดบนสภาพแวดล้อมเดียวกับข้อมูลสำคัญของเรามันอันตรายเกินไป ต่อให้เป็นโมเดลที่คิดว่าปลอดภัยก็เถอะ แต่ผมก็ยังแอบกังขาอยู่นิดๆ ว่าในทางปฏิบัติคนทั่วไปจะยอมเสียเวลาเซ็ตอัพอะไรที่มันซับซ้อนขนาดนี้ไหม หรือสุดท้ายจะยอมเสี่ยงเพราะความสะดวกสบายมากกว่าความปลอดภัยกันแน่
ส่วนตัวผมมองว่าถ้าจะไปให้สุด ทางเลือกแบบ Sandbox ภายนอกนี่แหละคือคำตอบที่ยั่งยืนที่สุดในยุคที่ AI เก่งขึ้นเรื่อยๆ แบบนี้ เราต้องเลิกมองว่ามันคือแค่เครื่องมือธรรมดา แล้วมองว่ามันคือพาร์ทเนอร์ที่อาจจะทำเราพังได้ถ้าไม่คุมให้ดี แล้วเพื่อนๆ ในกลุ่มล่ะครับ ปกติเวลารันโค้ดที่ AI เขียนให้ มีวิธีป้องกันยังไงกันบ้าง หรือว่าปล่อยรันสดๆ ในเครื่องเลยเพราะคิดว่าคงไม่มีอะไร? แล้วคิดว่า Docker อย่างเดียวมันเอาอยู่ไหมสำหรับเคสนี้?
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...