เจาะประเด็น
AI Security
OpenAI แบนบัญชีรัสเซีย ลวงโลกด้วย "สถาบันวิจัยอิสราเอล" ปลอม ชงดัชนีโซเวียตตีค่าเวสต์
แคมเปญโฆษณาชวนเชื่อรอบใหม่จากรัสเซีย คราวนี้ไม่ธรรมดา เพราะใช้ AI สร้างองค์กรหน้าฉากทั้งระบบเพื่อล้างสมองคนอ่าน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
สงครามข้อมูลยุคใหม่ไม่ได้ใช้ระเบิด แต่ใช้ "บัญชีปลอม" และ "ดัชนีชี้วัด" ที่ตั้งใจบิดเบือนความจริง — คำถามคือ เราจะรู้เท่าทันได้ทันไหม?
เราคุยกันเรื่อง AI เก่งแค่ไหนก็เยอะแล้ว แต่คราวนี้ OpenAI ออกมาเปิดเผยอะไรที่โคตรน่าสนใจ — พวกเขาจับได้ว่ารัสเซียใช้ AI สร้างแคมเปญโฆษณาชวนเชื่อรอบใหม่ ที่ไม่ได้โง่แค่โพสต์ข่าวปลอมทื่อๆ แต่สร้าง "องค์กรคิดอิสระ" ปลอมขึ้นมาทั้งระบบ เพื่อโปรโมตดัชนี "อธิปไตย" ที่เชิดชูรัสเซียและดิสเครดิตชาติตะวันตก
ฟังดูอาจเหมือนพล็อตหนังสายลับ แต่เรื่องนี้เกิดขึ้นจริงและ OpenAI แบนบัญชีที่เชื่อมโยงกับรัสเซียไปแล้ว พวกเขาเปิดเผยว่า บัญชีเหล่านี้ใช้เครื่องมือ AI ของ OpenAI เองนี่แหละ ในการสร้างเนื้อหาสนับสนุน "สถาบันวิจัย" แห่งหนึ่งในอิสราเอล ซึ่งจริงๆ แล้วเป็นแค่ฉากหน้า ไม่มีตัวตนจริง มีแค่เว็บไซต์และเพจโซเชียลมีเดียที่ถูกสร้างขึ้นมาให้ดูน่าเชื่อถือ
เรื่องเริ่มจาก OpenAI ตรวจพบกิจกรรมที่น่าสงสัยจากบัญชีจำนวนหนึ่ง ซึ่งมีต้นตอมาจากรัสเซีย บัญชีเหล่านี้ไม่ได้ทำงานเดี่ยวๆ แต่เป็นเครือข่ายที่วางแผนมาอย่างดี พวกเขาสร้างตัวตนเป็น "นักวิจัย" หรือ "นักวิเคราะห์" ในสถาบันวิจัยปลอมแห่งหนึ่งในอิสราเอล ชื่อฟังดูหรูหรา มีเว็บไซต์เรียบร้อย มีบทความวิจัยตีพิมพ์ — แต่ทั้งหมดคือของปลอมที่สร้างด้วย AI
เป้าหมายหลักของพวกเขาคือการผลักดัน "ดัชนีอธิปไตย" (Sovereignty Index) ที่ออกแบบมาให้ดูเป็นงานวิชาการ แต่จริงๆ แล้วมีระเบียบวิธีที่บิดเบือน เพื่อให้รัสเซียได้คะแนนสูงและชาติตะวันตกได้คะแนนต่ำ เป็นการสร้าง "หลักฐาน" ปลอมเพื่อสนับสนุนวาทกรรมของเครมลินนั่นเอง
อันนี้คือจุดที่ทำให้ผมรู้สึกว่า "โอ้โห มันฉลาดขึ้นจริงๆ" — สมัยก่อนการโฆษณาชวนเชื่อคือการปั่นข่าวลือหรือปลอมแปลงเอกสาร แต่ตอนนี้ AI ทำให้การสร้าง "ความน่าเชื่อถือ" ปลอมๆ ทำได้ในต้นทุนที่ต่ำลงมาก แค่สร้างเว็บไซต์สวยๆ มีบทความยาวๆ สักสิบชิ้น มีโลโก้ดูดีๆ ก็กลายเป็น "สถาบันวิจัย" ได้แล้ว
สิ่งที่อันตรายกว่าตัวเนื้อหาคือ "การสร้างกรอบ" (framing) — การทำให้คนอ่านคิดว่า "อ๋อ มีงานวิจัยจากสถาบันในอิสราเอลบอกว่ารัสเซียดีจริงๆ นี่นา" พอมีองค์กรอิสระ (ที่ดูเหมือนอิสระ) มาสนับสนุน มันมีน้ำหนักกว่าการที่บัญชีรัสเซียออกมาพูดเองชัดๆ
แต่ที่น่าสนใจคือ OpenAI บอกว่าแคมเปญนี้ "ไม่ประสบความสำเร็จในการเข้าถึงผู้ชมอย่างมีความหมาย" — แปลว่าไม่มีคนหลงเชื่อมากนัก แต่นั่นไม่ใช่เหตุผลที่จะชะล่าใจ เพราะมันคือการทดสอบระบบ พวกเขากำลังหาวิธีเลี่ยงการตรวจจับ เรียนรู้ว่าแบบไหนได้ผล แบบไหนไม่ได้ผล
สถาบันวิจัยปลอม
สร้างเว็บไซต์และตัวตนนักวิจัยในอิสราเอล แต่ไม่มีตัวตนจริง ใช้ AI สร้างเนื้อหาทั้งหมด
ดัชนีอธิปไตยปลอม
ชี้วัดที่ออกแบบมาให้รัสเซียได้คะแนนสูง ตะวันตกได้ต่ำ ดูเป็นวิชาการแต่ระเบียบวิธีบิดเบือน
การเล่าเรื่องซ้ำๆ
ใช้ AI สร้างบทความและโพสต์จำนวนมาก เพื่อย้ำวาทกรรมเดิมในหลายรูปแบบให้ดูเหมือนมีคนเห็นด้วยเยอะ
การที่ OpenAI ออกมาเปิดเผยแบบนี้ถือว่าโปร่งใสดี แต่ก็ต้องยอมรับว่าเกมแมวไล่จับหนูแบบนี้ไม่มีวันจบ ทุกครั้งที่ระบบตรวจจับดีขึ้น ฝั่งผู้ไม่หวังดีก็จะพัฒนาเทคนิคใหม่ขึ้นมาเรื่อยๆ สงครามข้อมูลไม่ได้จบที่การแบนบัญชี แต่จบที่ความสามารถของเราในการตั้งคำถามกับสิ่งที่อ่าน
ท้ายที่สุดแล้ว AI เป็นแค่เครื่องมือ — ตัวอันตรายจริงๆ คือคนที่คิดหาวิธีใช้มันบิดเบือนความจริง คราวนี้จับได้ แต่ครั้งหน้าไม่แน่เสมอไป หน้าที่ของเราคือไม่เชื่ออะไรง่ายๆ โดยเฉพาะ "งานวิจัย" ที่ผลออกมาดีสำหรับฝ่ายใดฝ่ายหนึ่งเกินไป
ที่มา: OpenAI News — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...