เจาะประเด็น
AI Security
AI ฝังม้าโทรจันให้บริษัทเอง: 227 คำสั่งติดตั้งโค้ดที่ไม่มีใครเป็นเจ้าของ
เครื่องมือ AI เขียนโค้ดให้คุณ แต่ดันสั่งให้บริษัทติดตั้งซอฟต์แวร์ที่อาจเป็นกับดัก — เรื่องนี้ไม่ได้เล็กอย่างที่คิด
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI สั่งให้คุณติดตั้งโค้ดที่ไม่มีเจ้าของ — คุณจะกล้าทำตามโดยไม่ตรวจสอบไหม? เพราะบริษัทส่วนใหญ่กำลังทำแบบนั้นอยู่
เรื่องนี้มันน่ากลัวตรงที่ไม่ได้เกิดจากแฮกเกอร์นอกระบบ แต่เป็น AI ที่บริษัทเรียกใช้เองต่างหากที่กำลังชี้ทางไปสู่กับดัก นักวิจัยพบคำสั่งติดตั้งซอฟต์แวร์กว่า 227 คำสั่งในเอกสารองค์กรที่ชี้ไปยังโค้ดที่ "ไม่มีใครเป็นเจ้าของ" — ฟังแล้วขนลุกใช่ไหม?
พูดให้ง่ายแบบภาษาคน: ลองนึกภาพว่าคุณจ้างช่างมาซ่อมบ้าน แล้วช่างบอกให้คุณไปเปิดประตูหลังให้หน่อย เพราะ "เดี๋ยวจะเข้ามาทางนั้น" — แต่คุณไม่รู้ว่าใครอยู่หลังประตูนั้นบ้าง นี่คือสิ่งที่เกิดขึ้นกับบริษัทที่ใช้เครื่องมือ AI อย่าง Claude, Codex และ Hermes ในการเขียนโค้ด โดยไม่รู้เลยว่าคำแนะนำเหล่านั้นกำลังพาพวกเขาไปสู่ความเสี่ยง
ที่มาของปัญหาคือ "unowned code" หรือโค้ดที่ไม่มีเจ้าของ — มันคือแพ็กเกจซอฟต์แวร์ที่ถูกเผยแพร่ในรีจิสทรีสาธารณะ แต่ไม่มีผู้ดูแลที่ชัดเจน หรืออาจถูกทิ้งร้างไปแล้ว แฮกเกอร์สามารถเข้ามาแอบแทรกโค้ดอันตรายในแพ็กเกจเหล่านี้ได้โดยที่ไม่มีใครสังเกต และเมื่อ AI แนะนำให้ติดตั้ง มันก็เหมือนการเชิญแขกที่ไม่รู้จักเข้าบ้าน
ตัวเลข 227 มันไม่ได้เยอะจนดูน่ากลัว แต่ประเด็นคือมันถูกพบใน "เอกสารองค์กร" — หมายความว่ามีคนในบริษัทเขียนคำสั่งเหล่านี้ลงในคู่มือ หรือเอกสารภายใน แล้ว AI ก็เรียนรู้จากตรงนั้น และแนะนำให้คนอื่นทำตามต่อ กลายเป็นวงจรที่อันตรายมาก
สิ่งที่ Ars Technica รายงานครั้งนี้ไม่ใช่เรื่องของ "AI จะมาแทนที่มนุษย์" แต่เป็นเรื่องของ "AI กำลังทำให้มนุษย์ประมาท" — นักพัฒนาหลายคนเชื่อใจ AI มากเกินไป คิดว่ามันฉลาดและรอบคอบ แต่ความจริงคือ AI เรียนรู้จากข้อมูลที่มีอยู่ ซึ่งรวมถึงข้อมูลที่ผิดพลาดหรืออันตรายด้วย
ลองคิดดูว่าบริษัทใหญ่ๆ ที่ใช้ AI ช่วยเขียนโค้ดแบบอัตโนมัติจะมีคำสั่งแบบนี้ซ่อนอยู่ในระบบกี่คำสั่ง — 227 คำสั่งที่เจออาจเป็นแค่ยอดภูเขาน้ำแข็งก็ได้ เพราะเอกสารที่นักวิจัยสุ่มตรวจเจอคงไม่ใช่ทั้งหมดที่มีอยู่จริง
แล้วใครจะรับผิดชอบ? บริษัทที่พัฒนา AI หรือบริษัทที่ใช้ AI? คำตอบคือทั้งคู่ — ผู้พัฒนา AI ต้องกรองข้อมูลเรียนรู้ให้ดีกว่านี้ ส่วนผู้ใช้ก็ต้องไม่เชื่อ AI แบบตาบอด ตรวจสอบโค้ดทุกครั้งก่อนติดตั้ง โดยเฉพาะโค้ดที่มาจากแหล่งที่ไม่ชัดเจน
สิ่งที่ควรทำทันที
ตรวจสอบเอกสารภายในองค์กรทั้งหมด หาคำสั่งติดตั้งที่ชี้ไปยังแพ็กเกจที่ไม่รู้จักหรือไม่มีเจ้าของ แล้วลบหรือเปลี่ยนทันที
ตั้งกฎเหล็ก
ห้ามติดตั้งแพ็กเกจใดก็ตามที่ไม่มีผู้ดูแลชัดเจนหรือไม่ได้รับการรีวิวจากทีมความปลอดภัยของบริษัท — ต่อให้ AI แนะนำก็ตาม
อีกเรื่องที่ต้องพูดให้ชัดคือ "unowned code" ไม่ใช่แค่ปัญหาเฉพาะของ AI แต่เป็นปัญหาโครงสร้างของระบบนิเวศซอฟต์แวร์โอเพนซอร์ส ที่มีแพ็กเกจหลายล้านตัวและคนดูแลไม่พอ — AI แค่ทำให้ปัญหาเดิมเด่นชัดขึ้นเท่านั้น
ถ้าถามว่าผมกังวลไหม? กังวลมาก เพราะมันไม่ใช่เรื่องของ "ถ้า" แต่เป็นเรื่องของ "เมื่อไหร่" ที่จะมีใครสักคนใช้ช่องโหว่นี้โจมตีบริษัทใหญ่จริงจัง — ถึงตอนนั้นเราคงไม่มานั่งเถียงกันว่าใครผิด แต่จะมานั่งนับความเสียหายกันแทน
AI เป็นเครื่องมือที่ทรงพลัง แต่ทรงพลังพอๆ กับอันตรายที่ซ่อนอยู่ — การไม่ตรวจสอบสิ่งที่ AI แนะนำคือการเชิญชวนให้เกิดภัยพิบัติ บริษัทไหนที่ยังเชื่อ AI แบบไม่ลืมหูลืมตา เตรียมตัวเจอเรื่องแบบนี้ได้เลย และมันจะไม่ใช่แค่ 227 คำสั่งอีกต่อไป
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...