เจาะประเด็น
AI
โมเดล AI ตัวใหม่จากค่ายยักษ์ยังพลาดท่าโดนหลอกให้สร้างภาพโป๊ได้ง่ายๆ
งานวิจัยล่าสุดตีแผ่ช่องโหว่ในระบบป้องกันของ OpenAI และ Google ที่ปล่อยให้แฮกเกอร์หลอกระบบสร้างภาพล่อแหลมออกมาได้
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ระบบป้องกันความปลอดภัยที่โม้ไว้ดิบดี กลับพังไม่เป็นท่าเพราะเทคนิคโจมตีแบบเดิมๆ ที่ไม่ซับซ้อนเลยด้วยซ้ำ
เรื่องนี้มันสะท้อนความจริงที่เจ็บปวดว่า ต่อให้บริษัทเทคโนโลยีระดับท็อปของโลกจะทุ่มงบมหาศาลแค่ไหนในการสร้างกำแพงความปลอดภัย แต่ช่องโหว่พื้นฐานก็ยังคงหลุดลอดออกมาให้เห็นอยู่ดี ล่าสุดมีนักวิจัยออกมาเปิดโปงว่า โมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดจากทั้ง OpenAI และ Google ยังคงถูกหลอกให้สร้างภาพนู้ดหรือภาพล่อแหลมออกมาได้แบบชิลๆ
ปัญหาไม่ได้อยู่ที่ตัวเทคโนโลยีอย่างเดียว แต่มันอยู่ที่วิธีการโจมตีรูปแบบใหม่ที่ถูกคิดค้นขึ้นมาเพื่อเจาะระบบเซฟตี้โดยเฉพาะ วิธีการนี้อาศัยช่องว่างในการตีความคำสั่ง หรือที่เรียกกันง่ายๆ ว่าการป้อนคำสั่งแบบอ้อมๆ เพื่อตบตาตัวกรองเนื้อหา ทำให้ AI เข้าใจผิดคิดว่าคำขอเหล่านั้นไม่มีพิษภัยอะไร
พอกลไกการป้องกันด่านแรกยอมปล่อยผ่าน ตัวโมเดลก็พร้อมจะทำงานตามคำสั่งที่ได้รับทันที ผลลัพธ์ที่ได้คือภาพที่ละเมิดนโยบายความปลอดภัยถูกผลิตออกมาจากระบบที่ควรจะฉลาดและรัดกุมกว่านี้ นี่มันไม่ใช่แค่เรื่องบังเอิญ แต่มันคือจุดอ่อนเชิงโครงสร้างที่ระบบการเรียนรู้ของ AI ยุคนี้ยังแก้ไม่ตก
การที่ยักษ์ใหญ่สองค่ายนี้พลาดท่าพร้อมๆ กัน มันบอกเราชัดเจนว่าการพึ่งพาแค่ตัวกรองคำสั่งหรือระบบบล็อกแบบเดิมๆ มันไม่เพียงพออีกต่อไปแล้ว ยิ่งโมเดลเก่งขึ้นเท่าไหร่ วิธีการที่คนหัวใสเอามาใช้ประโยชน์ในทางที่ผิดก็ยิ่งแยบยลตามไปด้วย จนบางทีก็อดคิดไม่ได้ว่าเรากำลังวิ่งไล่จับเงาตัวเองหรือเปล่า
ผลกระทบจากเรื่องนี้ไม่ได้หยุดอยู่แค่ตัวเลขสถิติในรายงานวิจัย แต่มันหมายถึงความเสี่ยงที่ภาพหลอกลวงเหล่านี้จะถูกนำไปใช้ในทางที่ผิด ทั้งการกลั่นแกล้งกัน การสร้างข่าวปลอม หรือการคุกคามทางเพศ ซึ่งเป็นปัญหาใหญ่ที่สังคมโซเชียลกำลังเผชิญหน้าอยู่แล้วในตอนนี้
ท้ายที่สุดแล้ว ถึงเวลาที่ทางผู้พัฒนาต้องหันมาทบทวนวิธีรับมืออย่างจริงจังเสียที การแก้ปัญหาแค่แปะปลาสเตอร์ยาด้วยการอัปเดตฟิลเตอร์ทีละจุดมันใช้ไม่ได้ผลอีกต่อไปแล้ว ถ้ายังปล่อยให้ช่องโหว่แบบนี้มีอยู่ ช่องว่างระหว่างความปลอดภัยกับความรับผิดชอบต่อสังคมก็จะยิ่งห่างออกไปเรื่อยๆ
ต่อให้ใส่ฟิลเตอร์แน่นหนาแค่ไหน ถ้าตัวรากฐานของโมเดลยังเปิดช่องให้โดนหลอกได้ง่ายๆ แบบนี้ วงการ AI ก็ยังต้องปวดหัวกับปัญหาภาพล่อแหลมไปอีกนาน
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...