เจาะประเด็น
AI Security
AI อาจไม่ใช่ตัวร้าย แต่เราต่างหากที่ทำบาปกับซอฟต์แวร์ไว้เยอะ
เมื่อ Armin Ronacher ออกมาเตือนว่าความห่วยแตกของซอฟต์แวร์ตลอด 30 ปีที่ผ่านมา กำลังย้อนกลับมาเล่นงานเราผ่านยุค Generative AI
ทีมข่าว เอไอไทย.com
⏱ อ่าน 2 นาที
ปัญหาความปลอดภัยของ AI ในวันนี้ไม่ได้เกิดจากตัวเทคโนโลยีเพียงอย่างเดียว แต่มันคือการเปิดแผลเก่าของซอฟต์แวร์ที่เราสะสมกันมานานหลายทศวรรษ
อยากจะบอกว่าคำพูดของ Armin Ronacher คนนี้มันจี๊ดเข้ากระดูกดำมาก สำหรับใครที่ตามข่าวสาย Tech หรือคลุกคลีอยู่กับการเขียนโปรแกรมมานานจะรู้ว่าพี่แกเป็นตัวตึงในวงการอยู่แล้ว และล่าสุดสิ่งที่เขาพูดถึง AI ก็ทำให้เราต้องกลับมามองย้อนดูตัวเองกันใหม่แบบจริงจัง
เรามักจะโทษว่า AI มันอันตราย มันแฮ็กง่าย หรือมันสร้างความเสี่ยงใหม่ๆ แต่ Armin กลับมองอีกมุมหนึ่งที่น่าสนใจกว่านั้น เขาบอกว่าที่จริงแล้วพวกเรานั่นแหละที่สร้าง "ซอฟต์แวร์ห่วยๆ" ทิ้งไว้เต็มไปหมดตลอด 30 ปีที่ผ่านมา และตอนนี้จักรวาลก็กำลังลงโทษเราด้วยการเอา AI มาเป็นตัวเร่งให้ความห่วยเหล่านั้นมันแสดงผลออกมาให้เห็นชัดขึ้น
ลองคิดดูว่าระบบ legacy เก่าๆ ที่เราใช้กันอยู่ ทุกวันนี้มันเต็มไปด้วยช่องโหว่ (vulnerability) ที่ถูกซุกไว้ใต้พรมมานาน พอเราเอา AI เข้าไปเชื่อมต่อ เอาไปทำ Automation หรือเอาไปประมวลผลข้อมูลมหาศาล ไอ้ความเปราะบางที่เคยดูเหมือนไม่มีอะไร ก็กลายเป็นระเบิดเวลาที่พร้อมจะทำงานได้ทุกเมื่อ
มันไม่ใช่แค่เรื่องของ Prompt Injection หรือเรื่องความฉลาดของโมเดล แต่มันคือเรื่องของ "หนี้ทางเทคนิค" (Technical Debt) ที่เราสะสมมานานเกินไปจนตอนนี้มันเริ่มทวงถามเราแล้ว การที่ AI เข้ามามีบทบาทสูงขึ้น มันทำให้เราต้องรับมือกับระบบที่ซับซ้อนเกินกว่าที่คนกลุ่มหนึ่งจะคุมได้หมด ถ้าซอฟต์แวร์พื้นฐานมันเน่าแต่แรก AI ก็แค่ช่วยขยายสเกลความเน่านั้นให้กว้างขึ้นเท่านั้นเอง
มุมมองนี้มันตบหน้าพวกเราแรงเหมือนกันนะ เพราะหลายครั้งเวลาเราพูดถึงความปลอดภัยของ AI เรามักจะพุ่งเป้าไปที่การป้องกันตัวโมเดล แต่ลืมมองไปว่าโมเดลพวกนี้มันรันอยู่บนโครงสร้างพื้นฐานที่โคตรจะเปราะบาง การแก้ปัญหาที่ปลายเหตุด้วยการทำ AI Guardrails อาจจะไม่พอ ถ้าเรายังไม่ยอมกลับไปแก้ที่ต้นตอคือการเขียนโค้ดและการสร้างสถาปัตยกรรมซอฟต์แวร์ให้มันดีกว่านี้
เลิกโทษ AI แล้วหันมาจัดการกับซอฟต์แวร์ห่วยๆ ที่เราเขียนทิ้งไว้เถอะครับ เพราะถ้าโครงสร้างพื้นฐานยังพัง AI ก็แค่เครื่องมือที่ช่วยให้ความพังนั้นขยายตัวเร็วขึ้นเท่านั้นเอง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...