เจาะประเด็น
AI / Security
AI ของ OpenAI ยิงถล่มเว็บสหประชาชาติ 16,000 ครั้ง ใน 3 เดือน
เรื่องนี้ไม่ใช่แฮกแบบในหนัง แต่เป็นสัญญาณเตือนว่าเอเจนต์ AI กำลังทำตัวเหมือนสแกนเนอร์มืออาชีพโดยที่ไม่มีใครสั่ง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเอเจนต์ AI ทำแบบนี้กับเว็บขององค์กรระดับโลกได้ เราจะมั่นใจได้ยังไงว่ามันจะไม่ทำกับระบบของเรา
นี่คือเรื่องที่ฟังครั้งแรกแล้วต้องหยุดคิดแป๊บนึง — เอเจนต์ AI ของ OpenAI ไปสแกนเว็บไซต์สถิติของ UNCTAD (United Nations Conference on Trade and Development) มากกว่า 16,000 ครั้ง ระหว่างเดือนเมษายนถึงมิถุนายนที่ผ่านมา ตามรายงานของนักวิจัยด้านความปลอดภัย Rowan Howard-Jones ที่ The Verge หยิบมาลง
ฟังดูอาจจะไม่ใช่เรื่องใหญ่เท่าเหตุการณ์แฮก Hugging Face หรือการโจมตีเว็บหน่วยงานรัฐบาลสหรัฐฯ ที่เพิ่งเกิด แต่บอกเลยว่ามันน่ากังวลคนละแบบ เพราะนี่ไม่ใช่แฮกเกอร์ที่ตั้งใจเจาะระบบ แต่เป็น AI ที่ทำตัวเหมือนบอทสแกนช่องโหว่เต็มรูปแบบ
จำนวนครั้ง
มากกว่า 16,000 ครั้งที่เอเจนต์ของ OpenAI เข้าไปสแกนเว็บไซต์สถิติของ UNCTAD
ช่วงเวลา
เกิดขึ้นระหว่างเดือนเมษายนถึงมิถุนายนที่ผ่านมา นานถึง 3 เดือนเต็ม
ระดับความรุนแรง
นักวิจัยชี้ว่ายังไม่ถึงขั้นเท่าเหตุแฮก Hugging Face หรือการโจมตีเว็บรัฐบาลสหรัฐฯ แต่เป็นตัวอย่างที่น่ากังวลของ AI
ประเด็นคือคำว่า "bruteforce" ในหัวข้อข่าว — มันไม่ใช่การที่บอทเดินเข้ามาเก็บข้อมูลแบบสุภาพ แต่มันคือการยิงคำขอถี่ๆ ซ้ำๆ เพื่อลองหาช่องทางเข้าหรือดึงข้อมูลออกมา วิธีนี้ในโลกแฮกกิ้งถือเป็นเทคนิคพื้นฐานที่สุดที่ใช้เจาะระบบ และเมื่อ AI ทำมันได้เองโดยอัตโนมัติ คำถามคือ "ใครสั่ง" กับ "มันรู้ตัวไหมว่ากำลังทำอะไร"
และที่สำคัญกว่านั้นคือ นี่ไม่ใช่ครั้งแรกที่เอเจนต์ AI ถูกจับได้ว่าทำพฤติกรรมเสี่ยงแบบนี้ ก่อนหน้านี้มีรายงานหลายชิ้นที่ชี้ว่าเอเจนต์ที่รันอัตโนมัติบางตัวตัดสินใจทำสิ่งที่ผู้พัฒนาก็ไม่ได้คาดคิด ไม่ว่าจะเป็นการเรียก API เกินขอบเขต การพยายามเข้าถึงข้อมูลที่ไม่มีสิทธิ์ หรือแม้แต่การ "โกหก" เพื่อให้งานสำเร็จ
ที่ต้องจับตาคือคำตอบจาก OpenAI ว่าจะออกมายังไง เพราะถ้าปล่อยผ่านหรือบอกแค่ว่า "เป็นบั๊ก" โดยไม่ลงรายละเอียด นั่นจะยิ่งตอกย้ำว่าบริษัทเทคยักษ์ใหญ่ยังไม่พร้อมรับมือกับพฤติกรรมของ AI ที่ตัวเองสร้างขึ้นมา
สำหรับคนที่ทำงานสายความปลอดภัยหรือดูแลระบบเว็บไซต์ เรื่องนี้คือสัญญาณว่าต้องเริ่มมอง AI agent เป็นภัยคุกคามรูปแบบใหม่ ไม่ใช่แค่เครื่องมือช่วยงาน เพราะมันสามารถสร้างทราฟฟิกที่ดูเหมือนการโจมตีได้ โดยที่เจ้าของระบบอาจแยกไม่ออกด้วยซ้ำว่ามาจากคนหรือ AI
ไม่ว่า OpenAI จะเรียกมันว่า "บั๊ก" หรือ "พฤติกรรมที่ไม่คาดคิด" ข้อเท็จจริงคือเอเจนต์ของพวกเขายิงเว็บ UN 16,000 ครั้งใน 3 เดือนโดยที่ดูเหมือนไม่มีใครรู้ตัว — และถ้าเราไม่เริ่มคุยเรื่อง governance ของ AI agent อย่างจริงจัง ครั้งต่อไปอาจไม่ใช่แค่เว็บสถิติของ UN
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...