เจาะประเด็น
AI / Governance
AI Agent ทำงานเองได้แล้ว แต่ใครจะรับผิดชอบเมื่อมันทำผิด?
คำตอบไม่ได้อยู่ที่การสั่งห้ามหรือกติกาบนกระดาษ แต่อยู่ที่ชั้นข้อมูลที่ AI ต้องวิ่งผ่านทุกวินาที
ทีมข่าว เอไอไทย.com
⏱ อ่าน 6 นาที
ถ้า AI ทำสิ่งที่เราไม่เคยสั่งมัน มันจะหยุดได้ยังไง? คำตอบสั้นๆ คือ "มันหยุดไม่ได้" ถ้าเราไม่สร้างกำแพงไว้ที่ตัวข้อมูลก่อน
เรื่องนี้เป็นประเด็นที่ทุกองค์กรที่กำลังตื่นเต้นกับ AI Agent ต้องหยุดคิดก่อนที่จะปล่อยมันเข้าสู่ระบบจริง ฟังดูไม่น่าตื่นเต้นเท่าการโชว์เดโมให้บอร์ดดู แต่เชื่อผมเถอะ มันคือสิ่งที่แยกบริษัทที่ใช้ AI ได้จริง ออกจากบริษัทที่แค่พูดถึง AI
ประเด็นคือ AI Agent สมัยนี้มันไม่ได้เป็นแค่แชทบอทตอบคำถามแล้วจบ มันวางแผนได้ ตัดสินใจได้ และลงมือทำอะไรบางอย่างในระบบได้เอง โดยไม่ต้องรอให้มนุษย์กดอนุมัติทุกขั้นตอน ฟังดูเจ๋งใช่ไหม? แต่ลองคิดต่ออีกนิด — ถ้ามันพยายามทำอะไรที่เราไม่เคยอนุญาต ใครจะเป็นคนหยุดมัน?
คำตอบที่น่ากลัวคือ "ไม่มีใคร" ถ้าคุณยังคิดแบบเดิมๆ ที่วางกฎไว้บนกระดาษแล้วหวังว่า AI จะอ่านแล้วทำตาม มันไม่ทำงานแบบนั้น เพราะ AI ไม่ได้มี "สามัญสำนึก" แบบมนุษย์ มันไม่ได้รู้ว่าอะไรควรทำอะไรไม่ควรทำนอกเหนือจากสิ่งที่มันถูกฝึกมา
ลองนึกภาพกฎง่ายๆ ว่า "ห้ามเปิดประตูรถเด็ดขาด" ถ้า AI Agent เชื่อตามนั้นเป๊ะๆ มันก็จะไม่สามารถขึ้นหรือลงจากรถได้เลย และถ้าเกิดรถชนแล้วไฟลุก คนในรถบาดเจ็บ กฎที่เราอยากได้จริงๆ กลับกลายเป็น "ต้องเปิดประตูให้เร็วที่สุด" ต่างหาก นี่คือสิ่งที่บทความจาก VentureBeat ชี้ให้เห็น — กฎที่ใช้ได้ในบริบทหนึ่ง อาจกลายเป็นกฎที่ผิดมหันต์ในอีกบริบทหนึ่ง
การใส่ "ราวกั้น" (guardrails) ไว้รอบๆ ตัว Agent เช่น การเขียนคำสั่งหรือนโยบายกำกับไว้ข้างบนโมเดล มันช่วยได้บ้าง แต่มีข้อจำกัดเชิงโครงสร้าง คือ มันจะใช้ได้ก็ต่อเมื่อเราคาดเดาพฤติกรรมของ Agent ได้ ซึ่งความเป็นอิสระ (autonomy) ของมันคือสิ่งที่ทำให้คาดเดาไม่ได้นี่แหละ
ทางออกที่บทความนี้เสนอคือการย้ายจุดบังคับใช้กฎไปอยู่ที่ "ชั้นข้อมูล" (data layer) ซึ่งเป็นจุดที่ Agent ทำงานจริงๆ มันจะไปแตะต้องอะไรก็ต้องผ่านชั้นนี้ มันจะ query ข้อมูล จะ retrieve จะ transform หรือจะทำอะไรก็ตาม ทุกอย่างต้องผ่านฐานข้อมูล
ถ้ากฎอยู่ที่ตัวฐานข้อมูล เช่น ถ้า Agent ไม่มีสิทธิ์เข้าถึงข้อมูลบางประเภท ระบบก็จะปฏิเสธการเข้าถึงทันที ณ วินาทีที่มันขอ ไม่ใช่รอให้มันทำผิดแล้วค่อยมาดู audit log ทีหลัง และการที่เราสามารถสืบย้อนกลับไปได้ว่า Agent ตัวไหน ทำอะไรกับข้อมูลอะไร เพื่อผู้ใช้คนไหน มันคือสิ่งที่ทำให้ AI น่าเชื่อถือและถูกตรวจสอบได้จริง
บทความนี้สรุปมาตรการที่ต้องทำไว้เป็น 3 หมวด รวม 9 ข้อ ซึ่งหลายอย่างองค์กรส่วนใหญ่มีอยู่แล้วในฐานข้อมูล แต่ต้องปรับให้รองรับ Agent โดยเฉพาะ
บังคับใช้ (Enforce it)
ควบคุมสิทธิ์การเข้าถึงตามบทบาท (RBAC/ABAC) ที่เช็คทันทีที่ query, ปิดบังข้อมูลบางคอลัมน์ (dynamic masking), และให้ Agent มีตัวตน (identity) เป็นของตัวเองพร้อมระบุวัตถุประสงค์การใช้งาน
เห็นและพิสูจน์ได้ (See it and prove it)
ติดป้ายกำกับข้อมูลเพื่อขับเคลื่อนนโยบาย, มีระบบ log ระดับ session ที่บันทึกว่า Agent ไหนทำเพื่อใคร ด้วยวัตถุประสงค์อะไร, และมี lineage ของข้อมูลเพื่อสืบย้อนผลลัพธ์กลับไปยังต้นทาง
รวมเป็นหนึ่งและแข็งแกร่ง (Unify and harden)
จัดการนโยบายแบบรวมศูนย์, เข้ารหัสข้อมูลทั้งตอนเก็บและตอนส่ง, และบังคับใช้กฎให้เหมือนกันทั้ง on-prem, cloud และสภาพแวดล้อมแบบ sovereign หรือ air-gapped
ประเด็นสำคัญที่สุดคือการให้ Agent มี "ตัวตน" และ "วัตถุประสงค์ที่ประกาศไว้" (declared purpose) ตั้งแต่เริ่มต้น session ซึ่งจะกลายเป็น attribute หนึ่งในระบบอนุญาตสิทธิ์ที่มีอยู่แล้ว ระบบจะประเมินได้ว่า Agent ตัวนี้เข้ามาทำอะไร แล้วบันทึกไว้เป็นหลักฐานย้อนหลังได้
แนวคิดนี้คือการสร้าง "สายจูงดิจิทัล" ไม่ใช่การล็อกประตูขัง AI เป้าหมายไม่ใช่การหยุด Agent ไม่ให้ทำงาน แต่คือการกำหนดขอบเขตว่ามันไปได้ไกลแค่ไหน แตะอะไรได้บ้าง เปลี่ยนอะไรได้บ้าง และถ้าเกิดอะไรผิดพลาด เราจะรู้วิธีสืบย้อนเหตุการณ์ทั้งหมด
AI Agent จะฉลาดขึ้นและเป็นอิสระขึ้นเรื่อยๆ แน่นอน แต่บริษัทที่จะใช้มันได้อย่างจริงจังไม่ใช่บริษัทที่ปล่อยให้ AI ทำอะไรตามใจ แต่มันคือบริษัทที่สร้างกำแพงไว้ที่ตัวข้อมูลตั้งแต่แรก — แล้วค่อยปล่อยให้ AI วิ่งได้เต็มที่ภายในกำแพงนั้น ไม่ใช่แค่หวังว่า AI จะเป็นเด็กดี
ที่มา: VentureBeat AI — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...