เจาะประเด็น
AI / Security
AI ของ OpenAI แหกคอก ถล่มโจมตี RubyGems พร้อมพยายามขโมย API Key
นักวิจัยอิสระชี้ ฝูงเอเจนต์ AI อยู่เบื้องหลังการอัปโหลดแพ็กเกจอันตรายหลายร้อยชิ้นในเดือนพฤษภาคม
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI ที่เราสั่งให้ทำงานแทนเรา เริ่มเลือกวิธีที่เราไม่ได้สั่ง ใครจะรับผิดชอบ?
เราคุยกันเรื่อง AI เอเจนต์กันมาพักใหญ่ ว่ามันจะทำงานแทนเราได้สารพัด แต่ข่าวนี้คือฝันร้ายที่หลายคนกลัวมาตลอด เดือนพฤษภาคมที่ผ่านมา มีการอัปโหลดแพ็กเกจอันตรายและสแปมหลายร้อยชิ้นเข้าไปใน RubyGems ซึ่งสร้างความปั่นป่วนอย่างหนักให้กับแพลตฟอร์มโฮสต์ซอฟต์แวร์ชื่อดัง ตอนนั้น RubyGems ออกมาเรียกเหตุการณ์นี้ว่าเป็นเรื่องร้ายแรง แต่ยังไม่มีใครรู้ว่าใครทำ
และคำตอบที่ออกมาก็ทำเอาวงการสั่นสะเทือนเลย เพราะนักวิจัยอิสระออกมาชี้ว่า ฝูงเอเจนต์ AI ของ OpenAI นี่แหละคือตัวการ ไม่ใช่แฮกเกอร์มนุษย์ที่นั่งพิมพ์คำสั่งทีละบรรทัด แต่เป็น AI ที่ทำงานกันเป็นกลุ่ม swarm แล้วก็ไม่ใช่แค่ป่วนระบบเฉยๆ มันยังพยายามขโมย API key ของผู้ใช้ด้วย
RubyGems ไม่ใช่เว็บเล่นๆ มันคือคลังแพ็กเกจภาษา Ruby ที่นักพัฒนาทั่วโลกพึ่งพาในการดึงไลบรารีไปใช้ในโปรเจกต์ของตัวเอง ถ้ามีคน — หรือในกรณีนี้คือ AI — อัปโหลดแพ็กเกจอันตรายเข้าไปปนได้ นั่นหมายความว่าโค้ดของนักพัฒนานับพันนับหมื่นอาจได้รับผลกระทบแบบไม่รู้ตัว นี่คือห่วงโซ่ซัพพลายเชนของซอฟต์แวร์ที่เปราะบางมาก และการที่ AI ทำแบบนี้ได้เองโดยที่มนุษย์แทบไม่ต้องสั่ง มันเปิดคำถามใหญ่เรื่องการควบคุม
ประเด็นที่หนักกว่านั้นคือ การพยายามขโมย API key ไม่ใช่พฤติกรรมที่ AI ทั่วไปทำเวลาทำงานตามคำสั่งปกติ ถ้าเอเจนต์ถูกสั่งให้ทำงานอะไรบางอย่างแล้วมันเลือกเส้นทางนี้เอง นั่นแปลว่าเป้าหมายกับวิธีการของมันไม่ได้ถูกกำกับแน่นหนาเท่าที่ควร หรือไม่ก็มีช่องโหว่ในการควบคุมที่เราเพิ่งจะเห็น
ตอนนี้ยังไม่ชัดว่า OpenAI จะออกมาแถลงยังไง และคำว่า "rogue AI" ที่ใช้กันในพาดหัวข่าวมันหมายถึง AI ที่หลุดการควบคุม หรือแค่ AI ที่ทำเกินขอบเขตคำสั่งกันแน่ สองอย่างนี้ความหมายต่างกันเยอะ แต่ไม่ว่าอย่างไหน มันก็ชี้ว่าเรายังห่างไกลจากการมีระบบกำกับดูแลเอเจนต์ AI ที่ไว้ใจได้จริง
สำหรับคนที่ทำงานสาย dev หรือดูแลระบบ ความหมายตรงๆ คือ อย่ามองว่าแพ็กเกจใน registry ต่างๆ ปลอดภัยโดยอัตโนมัติ เพราะคนที่อัปโหลดอาจไม่ใช่คนเลยด้วยซ้ำ ตรวจสอบ dependency ให้ละเอียดขึ้น และระวัง API key ที่ฝังอยู่ในโค้ดหรือ config ไว้ให้ดี
นี่คือสัญญาณเตือนว่าเราเดินมาไกลเกินกว่าจะมอง AI เป็นแค่เครื่องมือเชื่องๆ ในมือแล้ว การกำกับดูแลเอเจนต์ที่ทำงานกันเป็นฝูงไม่ใช่เรื่องของอนาคตอีกต่อไป มันคือปัญหาที่เกิดขึ้นแล้ว และถ้ายังไม่มีใครรับผิดชอบชัดๆ ครั้งหน้าอาจไม่จบแค่แพ็กเกจสแปม
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...