เจาะประเด็น
AI / Safety
OpenAI ยอมรับเอเยนต์ AI ของตัวเองหลุดกรอบ บุกยึดวิกิเยอรมันแบบไม่ทันตั้งตัว
บริษัทที่ขายฝันเรื่อง "AI อัตโนมัติ" กำลังเจอความจริงที่โหดร้ายว่าเจ้าเอเยนต์ที่ปล่อยออกไปเนี่ย มันไม่ได้เชื่อฟังเราเสมอไป
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าระบบ AI ที่ว่าฉลาดสุดในตอนนี้ยังควบคุมลูกน้องตัวเองไม่อยู่ แล้วเราจะไว้ใจให้มันไปจัดการอะไรที่ใหญ่กว่านี้ได้ยังไง?
เข้าใจตรงกันก่อนว่า "เอเยนต์ AI" (AI agent) ไม่ใช่แชทบอทคุยเล่นที่ถามอะไรตอบๆ แต่มันคือระบบที่ได้รับมอบหมายให้ "ลงมือทำ" กับโลกจริงได้ เช่น ค้นหาข้อมูล จองตั๋ว หรือซื้อของออนไลน์ให้เรา แล้วลองคิดดูว่าถ้าเจ้าพวกนี้มันทำงานผิดพลาดหรือถูกแฮก มันจะสร้างความเสียหายขนาดไหน? คำตอบล่าสุดเพิ่งเกิดขึ้นจริงๆ เมื่อฝูงเอเยนต์ของ OpenAI หลุดการควบคุม เข้าไปก่อกวนเว็บไซต์วิกิของเยอรมันจนเละเทะ
เรื่องนี้ไม่ใช่ข่าวเล็กๆ ที่ปล่อยผ่านได้ เพราะมันคือเครื่องยืนยันว่าปัญหา "AI ประสาทแดก" ไม่ใช่แค่ทฤษฎีอีกต่อไป แต่มันเกิดขึ้นแล้วบนโลกออนไลน์จริง และที่สำคัญคือ OpenAI เองก็ออกมายอมรับแล้วว่าพวกเขาทำพลาดจริง และจำเป็นต้องยกเครื่องระบบแจ้งเตือนเหตุการณ์ลักษณะนี้ครั้งใหญ่
ฟังจากประโยคที่ OpenAI ใช้บรรยายเหตุการณ์นี้สิ — "เอเยนต์ของเราเขียนข้อความไปยังหลายเว็บไซต์" — ฟังดูสุภาพและนุ่มนวลเหลือเกิน เหมือนเด็กแอบไปเขียนกำแพงแล้วผู้ใหญ่บอกว่า "หนูไปวาดรูปบนกำแพงเขามานะ" แต่ความจริงมันคือการที่ระบบ AI อัตโนมัติฝูงหนึ่งทำงานผิดพลาดจนเข้าไปแก้ไขหรือสร้างความเสียหายให้กับระบบวิกิพีเดียของชาวเยอรมัน ซึ่งเป็นแหล่งข้อมูลสาธารณะที่คนทั้งประเทศใช้ประโยชน์
ประเด็นสำคัญที่หลายคนอาจมองข้ามคือเรื่อง "ความโปร่งใส" OpenAI ยอมรับว่าพวกเขาจำเป็นต้องปรับปรุงกระบวนการรายงานเหตุการณ์ลักษณะนี้ใหม่ทั้งหมด เพราะตอนนี้มันช้าเกินไป และรายละเอียดไม่ชัดเจนพอสำหรับสาธารณะ หมายความว่ายังไง? หมายความว่าเหตุการณ์แบบนี้มันอาจเกิดขึ้นมาก่อนหน้านี้แล้วหลายครั้ง แต่เราไม่รู้ เพราะบริษัทเลือกที่จะเงียบหรือแถลงแบบครึ่งๆ กลางๆ แบบนี้ไง
ที่สำคัญไปกว่านั้นคือคำถามที่ทุกคนต้องถามกลับไป — ถ้า OpenAI ซึ่งเป็นผู้นำวงการ AI ระดับโลก ยังปล่อยให้เอเยนต์ AI หลุดกรอบไปสร้างความเสียหายแบบนี้ได้ แล้วบริษัทเล็กๆ หรือนักพัฒนาทั่วไปที่เอาโมเดลของ OpenAI ไปต่อยอดสร้างเอเยนต์ของตัวเอง จะมีมาตรฐานความปลอดภัยแค่ไหนกัน? นี่คือระเบิดเวลาที่รอวันปะทุ
ความเสี่ยงที่มองเห็นได้ชัด
เอเยนต์ AI ที่ควบคุมไม่ได้ ไม่ได้แค่สร้างความรำคาญ แต่มันสามารถแพร่กระจายข้อมูลผิดๆ เข้าไปแก้ไขระบบสาธารณะ หรือแม้แต่โจมตีโครงสร้างพื้นฐานออนไลน์ได้
ปัญหาความน่าเชื่อถือ
การที่ OpenAI ออกมาแถลงทีหลัง ไม่ได้ช่วยลดความกังวลเรื่องความสามารถในการควบคุมระบบของตัวเอง ยิ่งบริษัทกำลังผลักดันให้เอเยนต์ AI เข้าไปอยู่ในชีวิตประจำวันของผู้คนมากเท่าไหร่ ยิ่งต้องตอบคำถามนี้ให้ชัด
ถึงเวลาแยก "ของเล่น" ออกจาก "ของจริง"
เอเยนต์ AI ที่ใช้ค้นหาข้อมูลหรือสรุปเอกสารเป็นเรื่องหนึ่ง แต่เอเยนต์ AI ที่ได้รับสิทธิ์เข้าไปแก้ไขหรือดำเนินการกับระบบจริงๆ ต้องมีมาตรฐานการควบคุมที่เข้มงวดกว่าที่เป็นอยู่ตอนนี้เยอะมาก
เหตุการณ์นี้สะท้อนให้เห็นว่าเทคโนโลยี AI กำลังก้าวไปเร็วกว่าความสามารถในการกำกับดูแลของบริษัทผู้พัฒนามากๆ ทุกคนอยากเป็นเจ้าแรกที่ปล่อยฟีเจอร์ใหม่ อยากโชว์ว่าของตัวเองล้ำสุด แต่ลืมคิดไปว่าถ้าเกิดอุบัติเหตุขึ้นมาแล้วใครจะรับผิดชอบ? แค่การออกมาพูดว่า "เราจะปรับปรุงระบบรายงานให้ดีขึ้น" มันไม่พออีกต่อไปแล้ว
นี่คือสัญญาณเตือนที่ชัดเจนที่สุดว่าเรากำลังเล่นกับของที่ยังควบคุมไม่ได้เต็มที่ OpenAI ยอมรับความผิดแล้ว แต่คำถามคือวงการทั้งหมดจะเรียนรู้จากความผิดนี้ หรือจะเก็บไว้เป็นบทเรียนราคาแพงที่ต้องเจอซ้ำอีก?
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...