เจาะประเด็น
AI / SECURITY
Uber ไม่ปล่อยให้ AI ทำตามใจ! คลอดเกราะป้องกัน Agent ไม่ให้ก้าวข้ามเส้น
เมื่อ AI เริ่มคิดเองทำเองได้ Uber เลยต้องรีบสร้างรั้วกั้นไม่ให้มันทำอะไรแผลงๆ จนระบบพัง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
AI Agent ที่เก่งเกินไปอาจกลายเป็นภัยเงียบ ถ้าไม่มีระบบคอยเช็กว่าสิ่งที่มันกำลังคิดจะทำนั้น ตรงกับความต้องการจริงๆ ของเราหรือเปล่า
ยอมรับกันตรงๆ ว่า AI Agent คือของเล่นใหม่ที่โคตรเจ๋ง เพราะมันไม่ได้แค่ตอบแชทโง่ๆ แต่ยังเป็น "ตัวแทน" ที่ออกไปจัดการงานจริงๆ ให้เราได้ด้วย แต่ Uber Engineering เขาไม่ได้มองแค่ความว้าว เพราะเขารู้ดีว่าถ้าปล่อยให้ AI ตัดสินใจเองแบบไร้การควบคุม ความซวยอาจจะมาเยือนได้ทุกเมื่อ ล่าสุดเลยออกมาแชร์เรื่อง Secure AI Framework ที่เอาไว้คุมพฤติกรรม AI โดยเฉพาะ
ประเด็นคือระบบรักษาความปลอดภัยแบบเดิมที่เราใช้กันอยู่ ไม่ว่าจะเป็นการยืนยันตัวตน (Identity) หรือการคุม API มันเอา AI Agent ไม่อยู่ครับ เพราะ Agent พวกนี้มันมีความคิดเป็นของตัวเอง มันสามารถประมวลผลจากข้อมูลภายนอกที่มันไปเจอมา แล้วตัดสินใจลงมือทำอะไรบางอย่างในโลกจริงได้แบบไดนามิก ซึ่งไอ้ "ข้อมูลภายนอก" นี่แหละตัวดี ถ้ามีใครแอบฝังคำสั่งแสบๆ ไว้ แล้ว Agent ดันไปอ่านเจอแล้วทำตาม งานนี้มีพังแน่นอน
ลองนึกภาพว่าคุณสั่ง AI Agent ให้ไปจองตั๋วเครื่องบิน แต่ระหว่างทางมันดันไปอ่านเจอโปรโมชั่นปลอมที่หลอกให้มันโอนเงินออกจากบัญชีคุณ ถ้าเป็นระบบเก่า มันจะเช็กแค่ว่า "Agent นี้มีสิทธิ์เข้าถึงบัญชีไหม" ซึ่งคำตอบคือ "มี" มันก็เลยปล่อยให้โอนเงินไปหน้าตาเฉย Uber เลยมองว่าเราต้องการระบบที่ฉลาดกว่านั้น คือต้องรู้ด้วยว่าสิ่งที่ Agent กำลังจะทำน่ะ มัน "เหมาะสม" หรือเปล่า
เฟรมเวิร์กที่ Uber พัฒนาขึ้นมาจะเข้ามาทำหน้าที่เป็นเหมือน "ผู้คุมกฎ" ตลอดวงจรชีวิตของ AI Agent เลยครับ โดยมันจะคอยตรวจสอบว่าการกระทำของ Agent ในแต่ละก้าวนั้นสมเหตุสมผลไหม โดยใช้ปัจจัยหลักๆ 4 อย่างมาตัดสิน
User Request
คำสั่งจริงๆ ที่ผู้ใช้สั่งมาคืออะไร Agent กำลังทำนอกเหนือจากที่สั่งไหม
Agent Purpose
วัตถุประสงค์หลักของ Agent ตัวนั้นคืออะไร เช่น ถ้าเป็น Agent จองรถ แต่ดันจะไปสั่งซื้อของออนไลน์ อันนี้คือผิดปกติ
Permissions
สิทธิ์ที่ได้รับมอบหมายมามีแค่ไหน ก้าวล่วงไปในจุดที่ไม่ได้รับอนุญาตหรือเปล่า
Interaction Context
บริบทของการโต้ตอบในขณะนั้น สิ่งที่กำลังจะทำมันเมคเซนส์กับสถานการณ์ปัจจุบันไหม
อันนี้คือการยกระดับความปลอดภัยจากการแค่ "เช็กบัตรผ่านประตู" มาเป็นการ "เฝ้าดูพฤติกรรม" แบบเรียลไทม์ ซึ่งผมมองว่านี่คือมาตรฐานใหม่ที่บริษัทเทคใหญ่ๆ ต้องทำตาม ถ้ายังอยากจะผลักดันเรื่อง Autonomous AI ต่อไป เพราะถ้าเกิดเรื่องขึ้นมาทีหนึ่ง ความเชื่อมั่นของแบรนด์พังยับแน่นอน
สิ่งที่น่าสนใจคือ Uber ไม่ได้แค่มองเรื่องการป้องกันการโจมตีจากภายนอกเท่านั้น แต่เขายังมองไปถึงเรื่อง "ความผิดพลาด" ของตัว AI เองด้วย บางที AI ไม่ได้โดนแฮกหรอก แต่มันแค่เบลอหรือตีความคำสั่งเพี้ยนไปเอง การมีเกราะป้องกันชั้นนี้เลยเหมือนมีคนคอยสะกิดบอก Agent ว่า "เฮ้ย อันนี้ไม่ใช่นะ อย่าหาทำ"
การที่ Uber ลุกขึ้นมาทำเรื่องนี้แสดงให้เห็นว่าโลกของ AI กำลังเปลี่ยนผ่านจากช่วงเห่อของใหม่ ไปสู่ช่วงการใช้งานจริงที่ต้องเน้นความปลอดภัยแบบสุดตัว ใครที่กำลังทำระบบ Agent อยู่ ถ้าไม่อยากงานเข้าทีหลัง ต้องรีบกลับไปทำการบ้านเรื่องความปลอดภัยเชิงรุกแบบนี้ด่วนๆ
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...