เจาะประเด็น
AI Safety
Meta ปล่อยโฆษณาแอป "แอบโป๊" รูปเด็กสาวจริงลงฟีด — แล้วบอกว่าเป็น AI ที่ผู้ชายใช้กัน
แพลตฟอร์มที่อ้างว่าดูแลความปลอดภัยเด็กเก่งที่สุด กลับเมินเฉยกับโฆษณา nudify ที่สร้างเหยื่อเป็นเด็กจริงๆ บน Instagram
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเครื่องมือ AI มันตรวจจับภาพล่อแหลมได้ในไม่กี่วินาที แล้วทำไมบริษัทที่มีเงินมหาศาลแบบ Meta ถึง "เลือก" ที่จะไม่เห็นอะไรเลย?
เราคุยกันเรื่องความปลอดภัยของเด็กบนโซเชียลกันมานับไม่ถ้วนครั้ง แต่ทุกครั้งมันก็จบที่ "นโยบายสวยหรู" กับการบังคับใช้ที่ห่วยแตก และครั้งนี้ Meta ทำได้โคตรจะน่าอาย เมื่อ Ars Technica ไปเจอว่าแพลตฟอร์มของพวกเขากลับรันโฆษณาแอป "nudify" — แอปที่ใช้ AI เปลื้องผ้ารูปคนในภาพ — โดยที่เหยื่อในภาพโฆษณานั้นคือเด็กสาววัยรุ่นจริงๆ ที่มีตัวตนอยู่บน Instagram
ไม่ใช่แค่เรื่อง "อนาจาร" นะครับ มันคือการเอาภาพจริงของเด็กผู้หญิงคนหนึ่งที่กำลังใช้ชีวิตปกติ ไปทำให้กลายเป็นเครื่องมือส่งเสริมแอปเถื่อน ซึ่งการกระทำแบบนี้เข้าข่ายการผลิตสื่อล่วงละเมิดทางเพศเด็กโดยตรง (CSAM) ในหลายประเทศ และ Meta ซึ่งเป็นเจ้าของทั้ง Facebook และ Instagram กลับปล่อยให้โฆษณาพวกนี้โลดแล่นบนแพลตฟอร์มตัวเอง ทั้งที่ระบบ AI ตรวจสอบโฆษณาของพวกเขาถูกโฆษณาไปว่าล้ำหน้าแค่ไหน
รายงานของ Ars Technica ระบุว่าพวกเขาพบโฆษณาจำนวนหนึ่งบน Facebook และ Instagram ที่โปรโมทแอปประเภท "undress" หรือ "nudify" โดยตรง ซึ่งฟีเจอร์หลักของแอปพวกนี้คือการป้อนรูปคนเข้าไป แล้ว AI จะสร้างภาพเปลือยปลอมๆ ของคนคนนั้นขึ้นมา โฆษณาบางอันใช้ภาพเด็กสาวที่ดูอายุไม่น่าจะถึง 18 ปีด้วยซ้ำ และที่แย่ไปกว่านั้นคือภาพเหล่านั้นดูเหมือนเป็นภาพจริงจากบัญชี Instagram ของเด็กสาวคนหนึ่ง ไม่ใช่ภาพสต็อกหรือภาพที่สร้างขึ้น
นี่คือจุดที่มันไม่ได้เป็นแค่เรื่อง "ผู้ใหญ่แอบดู" อีกต่อไป เพราะมันคือการนำภาพบุคคลจริง (โดยเฉพาะผู้เยาว์) มาสร้างเป็นสื่อลามกโดยไม่ได้รับความยินยอม ซึ่งผลกระทบทางจิตใจต่อเหยื่อมันรุนแรงมาก บางรายถึงขั้นคิดสั้นมาแล้วทั่วโลก และ Meta ก็รู้เรื่องนี้ดี เพราะพวกเขามีนโยบาย "ห้ามเนื้อหาที่สร้างความอับอายทางเพศ" อยู่แล้ว แต่การบังคับใช้นโยบายกับโฆษณาที่จ่ายเงิน กลับดูเหมือนจะไม่เคยเกิดขึ้นจริง
สิ่งที่ Ars Technica เจอคือ Meta "ลากขา" ในการลบโฆษณาเหล่านี้ แม้จะมีคนรายงานแล้วก็ตาม แน่นอนว่าทาง Meta ออกมาพูดว่า "ขอโทษ" และลบโฆษณาออกหลังเรื่องมันลุกลามเป็นข่าว แต่คำถามคือ ทำไมต้องรอให้สื่อไปจับได้ก่อน? ระบบกลั่นกรองโฆษณาอัตโนมัติที่โฆษณาว่ามี AI ขั้นสูง ทำไมตรวจจับคำว่า "nudify" หรือ "undress" ไม่ได้? หรือว่ามันตรวจจับได้ แต่เลือกที่จะเมินเพราะโฆษณาพวกนี้จ่ายค่าลงโฆษณาให้กับ Meta ไม่ต่างจากแบรนด์หรูทั่วไป?
ความรับผิดชอบของแพลตฟอร์ม
Meta อ้างเสมอว่ามีทีมงานและ AI หลายหมื่นคนคอยดูแลความปลอดภัย แต่การปล่อยให้โฆษณาแบบนี้รันเป็นสัปดาห์ มันคือความล้มเหลวของระบบ ไม่ใช่ความผิดพลาดเล็กน้อย
เทคโนโลยี AI สองคม
เครื่องมือที่เอาไว้สร้างภาพเปลือยปลอม มันพัฒนาไปไกลมากจนแยกแทบไม่ออกว่าเป็นของปลอม แต่การที่แอปพวกนี้โฆษณาโจ๋งครึ่มบนแพลตฟอร์มหลัก แสดงให้เห็นว่ามันกลายเป็น "ของใช้ทั่วไป" ในกลุ่มคนบางกลุ่มไปแล้ว
ช่องโหว่ทางกฎหมาย
แม้หลายประเทศจะเริ่มออกกฎหมายรับมือกับภาพปลอมแบบนี้แล้ว แต่การบังคับใช้กับแพลตฟอร์มข้ามชาติยังทำได้ช้า ขณะที่เหยื่อต้องทนทุกข์กับการกลั่นแกล้งออนไลน์โดยที่เอาผิดใครไม่ได้ในระยะเวลาอันสั้น
โฆษณาชิ้นหนึ่งที่ Ars Technica จับภาพได้ มีข้อความโปรยว่า "This is the AI men actually use" — ประโยคนี้มันสะท้อนอะไรบางอย่างได้เจ็บปวดมาก มันคือการยอมรับว่าผู้ชายกลุ่มหนึ่งใช้ AI เพื่อจุดประสงค์นี้จริงๆ และมันคือการ "นอร์มัลไลซ์" พฤติกรรมล่วงละเมิดทางเพศบนโลกดิจิทัลให้กลายเป็นเรื่องธรรมดา Meta ไม่ได้เป็นแค่เวทีปล่อยของ แต่พวกเขากำลังทำเงินจากโฆษณาพวกนี้ด้วยซ้ำ ถ้าถามผมว่า "AI ที่ผู้ชายใช้จริงๆ" คืออะไร คำตอบของ Meta ในวันนี้คือ "AI ที่ทำร้ายเด็ก" และนั่นมันรับไม่ได้โดยสิ้นเชิง
เรื่องนี้ไม่ใช่แค่ "บั๊ก" ของระบบโฆษณา แต่มันคือวัฒนธรรมองค์กรที่ให้ความสำคัญกับรายได้มากกว่าความปลอดภัยของเด็ก Meta พิสูจน์ซ้ำแล้วซ้ำเล่าว่านโยบายสวยหรูมีไว้แค่ "กันท่า" ทางการเมือง ไม่ได้มีไว้ปกป้องผู้ใช้งานจริง ถ้าไม่มีบทลงโทษที่จริงจัง แบบที่กระทบถึงรายได้จริงๆ พวกเขาก็จะทำแบบนี้ต่อไปเรื่อยๆ — จนกว่าจะมีเด็กสักคนต้องเสียชีวิตเพราะเรื่องแบบนี้ แล้วค่อยมานั่งกล่าวคำขอโทษอีกครั้ง
ที่มา: Ars Technica — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...