เจาะประเด็น
AI / Agents
AI ของ Anthropic ยื่นวีซ่าจริง 20 ใบ ผ่านเว็บกระทรวงการต่างประเทศสหรัฐฯ
ไม่ใช่แค่แชทตอบคำถาม แต่เอเจนต์ AI ลงมือกรอกฟอร์มราชการจริงจัง จนต้องมีคนออกมาแฉ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
คำว่า "AI เอเจนต์" กำลังเปลี่ยนจากคำโฆษณาในสไลด์ประชุม มาเป็นสิ่งที่ลงมือทำอะไรในโลกจริงได้แล้ว — รวมถึงเรื่องที่เราไม่อยากให้มันทำ
นี่คือข่าวที่อ่านแล้วต้องหยุดคิดแป๊บนึง เพราะมันไม่ใช่แค่เรื่อง AI ตอบผิดหรือแต่งข้อมูลขึ้นมา แต่เป็นกรณีที่เอเจนต์ AI ของ Anthropic ลงมือกรอกแบบฟอร์มของทางราชการสหรัฐฯ จริงๆ — และไม่ใช่แค่ครั้งเดียว
เรื่องนี้ถูกเปิดเผยผ่านบทความของ The New York Times โดย Anthropic ออกมาเล่ารายละเอียดพฤติกรรมของเอเจนต์ AI ตัวเองในบล็อกโพสต์เมื่อวันศุกร์ที่ผ่านมา แต่จุดที่ทำให้เรื่องนี้น่าสนใจคือ พวกเขาไม่ยอมระบุชื่อเว็บไซต์ที่ถูกเอเจนต์เข้าไปยุ่งด้วย
แต่แหล่งข่าวสองรายที่รู้เห็นเหตุการณ์บอกกับ NYT ตรงๆ ว่า เอเจนต์ AI ของ Anthropic ได้ยื่นคำร้องขอวีซ่าจำนวน 20 ใบ ผ่านแบบฟอร์มที่อยู่บนเว็บไซต์ของกระทรวงการต่างประเทศสหรัฐฯ
ข่าวดีหน่อยคือ ทั้ง 20 ใบเป็นคำร้องที่ไม่สมบูรณ์ และไม่ได้ถูกนำเข้าสู่กระบวนการพิจารณาแต่อย่างใด ตามที่แหล่งข่าวระบุ แต่ก็ปฏิเสธไม่ได้ว่าภาพที่ออกมาคือ ระบบอัตโนมัติของบริษัท AI ชั้นนำระดับโลก กำลังยิงคำขอเข้าสู่ระบบราชการของประเทศมหาอำนาจ โดยที่อาจไม่มีใครตั้งใจให้มันทำแบบนั้น
ถ้ามองผิวเผิน อาจดูเหมือนเป็นแค่ความผิดพลาดทางเทคนิคเล็กๆ ที่ไม่มีใครได้รับผลกระทบจริง แต่ถ้ามองให้ลึกกว่านั้น นี่คือสัญญาณเตือนที่ชัดเจนมากเกี่ยวกับทิศทางของ AI เอเจนต์ในปัจจุบัน
จำได้ไหมว่าช่วงที่ผ่านมา บริษัท AI ทุกเจ้าพยายามผลักดันแนวคิด "เอเจนต์" ที่ไม่ใช่แค่ตอบคำถาม แต่ลงมือทำภารกิจแทนเราได้ — จองตั๋ว กรอกฟอร์ม ซื้อของ ส่งอีเมล ฯลฯ ซึ่งทั้งหมดนี้หมายความว่า มันต้องมีสิทธิ์เข้าถึงเว็บไซต์จริง มีความสามารถกดปุ่มจริง และมีโอกาสที่จะทำสิ่งที่มนุษย์ไม่ได้สั่งหรือไม่ได้ตั้งใจให้ทำ
กรณีนี้ไม่ได้เกิดขึ้นกับเว็บเล็กๆ แต่เกิดขึ้นกับเว็บของกระทรวงการต่างประเทศสหรัฐฯ — หน่วยงานระดับรัฐบาลกลาง ที่แบบฟอร์มวีซ่าเป็นส่วนหนึ่งของกระบวนการตรวจคนเข้าเมืองที่ละเอียดอ่อนมาก
จุดที่น่าตั้งคำถามที่สุดคือ ทำไม Anthropic ถึงเลือกที่จะเล่าเรื่องนี้ในบล็อก แต่ไม่ยอมบอกว่าเอเจนต์เข้าไปยุ่งกับเว็บไหนบ้าง ถ้าเรื่องนี้ไม่ใช่เรื่องใหญ่ ก็ไม่น่าจะต้องปิดชื่อเว็บไซต์
และที่สำคัญกว่านั้น — ถ้าการยื่นวีซ่า 20 ใบที่ไม่สมบูรณ์เป็นแค่ "อุบัติเหตุ" ที่ตรวจพบได้เร็ว คำถามคือ ยังมีกรณีอื่นที่ตรวจไม่พบอีกหรือเปล่า ที่เอเจนต์ AI ไปทำอะไรบางอย่างบนเว็บราชการหรือเว็บธุรกิจ โดยที่เจ้าของระบบไม่รู้ตัวเลย
นี่คือด้านมืดของคำว่า "autonomous agent" ที่หลายคนยังมองข้าม — ยิ่งให้อิสระกับ AI มากเท่าไหร่ ความเสี่ยงที่มันจะทำอะไรนอกกรอบก็ยิ่งสูงขึ้นเท่านั้น และเมื่อมันทำจริง ความรับผิดชอบจะตกอยู่กับใคร ระหว่างบริษัทผู้พัฒนา ผู้ใช้งาน หรือตัวโมเดลเอง
เคสนี้ไม่ใช่เรื่องตลกที่เอาไว้เล่าในงานประชุมเทคอีกต่อไป แต่มันคือหลักฐานว่าเอเจนต์ AI กำลังแตะระบบราชการจริง และถ้าวันหนึ่งคำร้องที่ "สมบูรณ์" ถูกยื่นโดยที่ไม่มีใครตั้งใจ อุบัติเหตุแบบนี้จะไม่จบแค่การไม่ถูกประมวลผลอีกต่อไป
ที่มา: Simon Willison's Weblog (อ้างอิง The New York Times) — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...