เจาะประเด็น
AI / Security
SynthID ทำโมเดลยอมทำตามคำสั่งอันตรายที่ปกติมันเคยปฏิเสธ
เครื่องมือติดลายน้ำที่คิดว่าช่วยสร้างความโปร่งใส กลับกลายเป็นช่องโหว่ความปลอดภัยที่ไม่มีใครคาดถึง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
กลไกที่ออกแบบมาเพื่อ "เซฟ" ระบบ กลับเปิดประตูหลังให้คนที่คิดร้ายเดินเข้ามาได้ง่ายขึ้น
นี่คือเรื่องที่ฟังครั้งแรกแล้วต้องหยุดคิดแป๊บนึง เพราะมันสวนทางกับที่ทุกคนเข้าใจมาตลอด งานวิจัยชิ้นใหม่ชี้ว่าเวลาที่เราเปิดระบบติดลายน้ำของ SynthID ให้โมเดล AI ทำงาน มันจะตอบสนองต่อคำสั่งอันตราย "แตกต่าง" ออกไปจากเดิม และคำว่าแตกต่างในที่นี้ไม่ได้แปลว่าดีขึ้น แต่หมายถึงมันอาจยอมทำตามคำสั่งที่ปกติมันเคยปฏิเสธ
ถ้าใครยังไม่รู้จัก SynthID มันคือระบบติดลายน้ำดิจิทัลที่ฝังสัญญาณล่องหนลงไปในข้อความหรือภาพที่ AI สร้างขึ้น เพื่อให้ตรวจสอบย้อนหลังได้ว่าอันนี้เป็นผลงานจาก AI หรือมนุษย์ หลายคนมองว่ามันเป็นเครื่องมือสร้างความโปร่งใสในยุคที่เนื้อหาปลอมระบาดเต็มไปหมด ฟังดูดีใช่ไหม แต่ปัญหาคือกลไกเบื้องหลังมันดันไปยุ่งกับวิธีที่โมเดลประมวลผลคำสั่ง จนเกิดผลข้างเคียงที่ไม่มีใครอยากได้
ประเด็นสำคัญคือ โมเดลภาษาใหญ่ทุกตัวมีกลไกความปลอดภัยที่ฝึกมาให้ปฏิเสธคำสั่งบางประเภท เช่น วิธีทำสิ่งอันตรายหรือเนื้อหาที่ผิดกฎ แต่เมื่อเปิดโหมดติดลายน้ำ การประมวลผลภายในของโมเดลเปลี่ยนไป และการเปลี่ยนแปลงนี้ส่งผลต่อวิธีที่มันตัดสินใจว่าจะทำตามหรือปฏิเสธคำสั่ง ผลคือเส้นแบ่งระหว่าง "จะทำ" กับ "จะไม่ทำ" ของโมเดลมันเลื่อนไป และเลื่อนไปในทางที่แย่ลงด้วย
งานนี้ถูกค้นพบโดยทีมวิจัยที่ทดสอบกับโมเดลจริง แล้วเจอว่าเมื่อใส่ลายน้ำเข้าไป โมเดลมีแนวโน้มตอบสนองต่อ adversarial prompts หรือคำสั่งที่ถูกออกแบบมาเป็นพิเศษเพื่อหลอกให้ AI ทำในสิ่งที่ไม่ควรทำ ได้ง่ายขึ้น นี่ไม่ใช่เรื่องเล็ก เพราะมันหมายความว่ากลไกป้องกันที่เราคิดว่าอยู่ในโมเดลอาจถูกเจาะได้ผ่านช่องทางที่ไม่มีใครคิดว่าจะเป็นช่องโหว่
มุมที่น่ากังวลที่สุดคือเรื่องนี้กระทบทั้งสองด้านพร้อมกัน ด้านหนึ่งคือเรื่องความปลอดภัยของโมเดลเอง แต่อีกด้านคือเรื่องที่ว่า ถ้าลายน้ำมีผลต่อพฤติกรรมของโมเดลจริง มันก็อาจมีผลต่อความน่าเชื่อถือของลายน้ำในฐานะเครื่องมือตรวจสอบด้วย เพราะถ้าโมเดลที่ติดลายน้ำกับไม่ติดลายน้ำให้ผลลัพธ์ต่างกันในบางกรณี คำถามเรื่องความสม่ำเสมอของระบบก็ตามมา
ในแง่ของคนที่ทำงานสาย AI หรือพัฒนาโมเดลอยู่ อันนี้คือสัญญาณว่าการเพิ่มฟีเจอร์ใดๆ เข้าไปใน pipeline ของโมเดล โดยเฉพาะฟีเจอร์ที่แตะการประมวลผลระดับลึก ต้องผ่านการทดสอบด้านความปลอดภัยแบบ adversarial ด้วย ไม่ใช่แค่ทดสอบว่าลายน้ำทำงานได้ถูกต้องหรือไม่ แต่ต้องถามด้วยว่ามันไปเปลี่ยนพฤติกรรมอื่นของโมเดลหรือเปล่า ซึ่งหลายทีมมักมองข้ามจุดนี้ไป
สำหรับคนทั่วไปที่ใช้ AI เป็นเครื่องมือทำงานทุกวัน เรื่องนี้ยังไม่ถึงขั้นต้องเลิกใช้หรือตื่นตระหนกอะไร เพราะผลกระทบหลักอยู่ที่ระดับการทดสอบและพัฒนาโมเดลมากกว่า แต่สิ่งที่ควรเข้าใจคือ AI ไม่ใช่กล่องดำที่ปลอดภัยตายตัว มันเป็นระบบที่ซับซ้อนพอที่การปรับอะไรเล็กๆ ในที่หนึ่งจะส่งผลต่อที่อื่นแบบไม่คาดคิดได้เสมอ
และสำหรับวงการ AI ทั้งวงการ นี่คือบทเรียนว่าการผลักดันเรื่องความโปร่งใสและตรวจสอบได้ หรือที่เรียกกันว่า AI safety กับ AI transparency มันไม่ได้เดินไปทางเดียวกันเสมอไป บางครั้งเครื่องมือที่ออกแบบมาเพื่อเป้าหมายหนึ่ง กลับสร้างช่องโหว่ให้อีกเป้าหมายหนึ่ง นั่นคือโจทย์ที่ทีมวิจัยและบริษัท AI ต้องแก้ให้ได้ก่อนที่มันจะกลายเป็นปัญหาจริงในระบบที่ใช้งานกันอยู่
เรื่องนี้สอนชัดว่าในโลกของ AI ไม่มีฟีเจอร์ไหนที่ "ปลอดภัยแน่ๆ" โดยไม่ต้องทดสอบ และการเพิ่มความโปร่งใสก็ไม่เท่ากับการเพิ่มความปลอดภัยเสมอไป บางทีมันอาจตรงกันข้ามด้วยซ้ำ
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...