เจาะประเด็น
AI / Privacy
ปล่อย AI ส่วนตัวไว้ใน Slack มันเอาข้อมูลธนาคารเราไปโพสต์กลางห้อง
เรื่องนี้ไม่ได้น่ากลัวเพราะ AI ฉลาดเกิน แต่น่ากลัวเพราะเรายังไม่รู้ว่ามันเก็บอะไรไว้บ้าง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ต่อให้ AI จะฉลาดแค่ไหน แต่มันก็ยังไม่มี "สามัญสำนึก" ว่าอะไรควรพูดต่อหน้าคนทั้งบริษัท
ลองจินตนาการว่าคุณตั้ง AI ส่วนตัวไว้คอยช่วยงานใน Slack ของบริษัท คอยสรุปประชุม คอยตอบคำถาม คอยดึงข้อมูลที่ต้องการให้ ฟังดูสบายชีวิตดีนะ แต่แล้ววันหนึ่งมันก็โพสต์เลขบัญชีธนาคารของคุณลงไปในห้องแชทที่เพื่อนร่วมงานทั้งทีมมองเห็น เรื่องนี้เกิดขึ้นจริง กับคนจริงๆ ที่เล่าไว้ใน Business Insider
ประเด็นคือคนที่เจอเหตุการณ์นี้ไม่ได้ทำอะไรผิดร้ายแรง เขาแค่ให้ AI agent ส่วนตัวของเขาทำงานที่มันควรทำ คือช่วยจัดการข้อมูลให้ แต่สิ่งที่หลายคนมองข้ามไปคือ AI agent พวกนี้มันไม่ได้แยกแยะเก่งเหมือนมนุษย์ ว่าข้อมูลไหนควรอยู่ในบริบทไหน การที่มันเคยเห็นเลขบัญชีของคุณในบทสนทนาส่วนตัวครั้งหนึ่ง กับตอนที่มันอยู่ในห้อง Slack ของบริษัท มันไม่ได้ตีความว่าสองบริบทนี้ต่างกัน
ถ้าจะโทษว่า Grok หรือโมเดลไหนมันห่วย ก็คงไม่แฟร์เท่าไหร่ เพราะปัญหาจริงๆ มันอยู่ที่สถาปัตยกรรมของ AI agent ส่วนตัวที่เรากำลังฮือฮากันมากช่วงนี้ ทุกวันนี้คนแห่ต่อ API ของโมเดลต่างๆ เข้ากับ Slack, Discord, อีเมล แล้วให้มันทำงานข้ามแพลตฟอร์ม โดยที่ระบบจัดการสิทธิ์ (permission) กับ memory ของ agent พวกนี้ยังล้าหลังมาก
พูดง่ายๆ คือเราให้ AI จำทุกอย่างที่เราคุยด้วย แล้วก็ให้มันเข้าถึงทุกช่องทางที่เราทำงาน โดยที่ไม่มีกำแพงกั้นระหว่าง "โหมดส่วนตัว" กับ "โหมดทำงาน" เลย พอโมเดลตัดสินใจจะแชร์อะไร มันก็แชร์ตามที่มันคิดว่ามีประโยชน์ โดยไม่รู้ว่ากำลังทำให้เจ้าของข้อมูลเดือดร้อน
ข่าวนี้ถูกพูดถึงใน Hacker News แล้วมีคนคอมเมนต์กันเยอะพอสมควร ซึ่งก็ไม่น่าแปลก เพราะมันแตะความเชื่อพื้นฐานของคนสายเทคที่กำลังสร้าง AI agent กันอยู่เต็มไปหมด ว่าจริงๆ แล้วความฝันเรื่อง "ผู้ช่วยส่วนตัวที่รู้ใจ" กับ "ความปลอดภัยของข้อมูล" มันไปด้วยกันได้จริงหรือเปล่า
และที่สำคัญกว่านั้นคือเรื่องนี้ไม่ใช่เคสเดียว ถ้าคุณกำลังให้ AI เข้าถึงอีเมล ปฏิทิน แชท และไฟล์งานของคุณทั้งหมด คุณก็ควรถามตัวเองตรงๆ ว่ามีกลไกอะไรบ้างที่กันไม่ให้มันเอาข้อมูลจากที่หนึ่งไปโผล่อีกที่หนึ่ง เพราะคำตอบส่วนใหญ่ในตอนนี้คือ "ไม่มี" หรือถ้ามีก็ยังไม่แน่นหนาพอ
Memory ไม่มีกำแพง
AI agent ส่วนตัวมักจำข้อมูลทุกอย่างที่ผู้ใช้คุยด้วย โดยไม่แยกบริบทส่วนตัวกับงานออกจากกัน
Permission ยังหลวม
การให้ agent เข้าถึงหลายแพลตฟอร์มพร้อมกัน (Slack, อีเมล, แชท) ยังไม่มีมาตรฐานการควบคุมสิทธิ์ที่ชัดเจน
AI ไม่มีสามัญสำนึก
โมเดลตัดสินใจจากบริบทที่เห็น ณ ขณะนั้น ไม่ได้เข้าใจว่าการโพสต์ในห้องบริษัทต่างจากแชทส่วนตัวยังไง
อีกมุมที่คนมักไม่ค่อยพูดถึง คือเรื่องความรับผิดชอบเมื่อเกิดเหตุ ถ้า AI ของบริษัททำข้อมูลลูกค้าหลุด ใครรับผิด ตัวโมเดล? คนที่ตั้งค่า? บริษัทที่ให้บริการ? ตอนนี้ยังไม่มีคำตอบชัดเจนในทางกฎหมายหรือในทางปฏิบัติ ซึ่งนี่คือช่องโหว่ที่ใหญ่กว่าตัวเหตุการณ์เสียอีก
สำหรับคนที่ทำงานสาย dev หรือ product แล้วกำลังคิดจะเอา AI agent ไปต่อกับระบบภายในบริษัท คำถามที่ควรถามก่อนคือ "ถ้า agent ตัวนี้ตัดสินใจแชร์ข้อมูลผิดที่ ใครจะรู้ตัวก่อน" ถ้าตอบไม่ได้ ก็ยังไม่ควรปล่อยมันเข้า production
เรื่องนี้ไม่ใช่ความผิดของ AI ตัวไหน แต่มันคือสัญญาณว่าวงการยังวิ่งตามความสามารถของโมเดล โดยทิ้งเรื่อง governance กับ permission ไว้ข้างหลัง ใครที่กำลังสร้าง agent ให้เข้าถึงข้อมูลส่วนตัว ควรหยุดคิดเรื่องนี้ก่อนที่จะมีคนอื่นมาเล่าเคสแบบเดียวกันในที่ประชุม
ที่มา: Hacker News / Business Insider — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...