เจาะประเด็น
AI / Propaganda
หน้าม้าครบสูตร: "คลังสมอง" ปลอมทุนอิสราเอล จ้าง AI ทำโฆษณาชวนเชื่อหลอกคนทั้งโลก
มันไม่ใช่แค่เฟคนิวส์แบบเดิมๆ อีกต่อไป แต่คือการเอา AI มาตีกรอบวาทกรรมในวงการวิชาการอย่างเป็นระบบ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเรารู้แล้วว่ามีคนใช้ AI สร้าง "ความจริง" ปลอมขึ้นมาเป็นอุตสาหกรรม เราจะเชื่ออะไรได้อีกในอินเทอร์เน็ต?
เรื่องนี้โคตรจะหลอนและน่าขนลุกในเวลาเดียวกัน ฟังดูเป็นพล็อตหนังสายลับ แต่กลับเป็นเรื่องจริงที่ The Guardian เพิ่งเปิดโปงออกมา: มี "คลังสมอง" (think tank) ปลอมๆ แห่งหนึ่งในอเมริกา ที่จริงแล้วตั้งและให้ทุนโดยรัฐบาลอิสราเอล เพื่อจุดประสงค์เดียวคือใช้ AI ผลิตโฆษณาชวนเชื่อเข้าหูนักการเมืองและประชาชนอเมริกัน
พูดง่ายๆ คือมันคือปฏิบัติการ "ปั่นกระแส" ระดับชาติ ที่ไม่ได้ใช้แค่คนนั่งพิมพ์คอมเมนต์ แต่ใช้ AI เขียนบทความวิชาการ รายงานวิจัย และบทวิเคราะห์ออกมาเป็นแพ็กเกจ "ความรู้" ปลอมๆ ที่ดูน่าเชื่อถือ แล้วยัดเยียดให้กับสื่อและนักการเมืองโดยไม่รู้ตัว
รายงานชิ้นนี้เล่าว่า องค์กรปลอมที่ว่านี้ใช้ชื่อว่า "The Institute for the Study of Modern Conflict" (ISMC) ทำทีเป็นสถาบันวิจัยอิสระในกรุงวอชิงตัน ดี.ซี. แต่ความจริงแล้วมันถูกตั้งขึ้นและควบคุมโดยหน่วยงานด้านความมั่นคงของอิสราเอล (Israel's Ministry of Strategic Affairs) ซึ่งเป็นหน่วยงานที่รับผิดชอบด้านการต่อต้านการคว่ำบาตร (BDS) และการโฆษณาชวนเชื่อเพื่อปกป้องภาพลักษณ์ประเทศโดยตรง
วิธีการของพวกเขามันแนบเนียนกว่าที่คิดมาก พวกเขาใช้ AI อย่างเช่น ChatGPT หรือระบบภาษาขนาดใหญ่ (LLM) อื่นๆ ในการสร้างบทความและรายงานจำนวนมาก จากนั้นก็เอาชื่อนักวิจัยปลอมๆ ที่ไม่มีตัวตนจริงไปแปะไว้ เพื่อให้ดูเหมือนว่ามี "ผู้เชี่ยวชาญ" กำลังวิเคราะห์ประเด็นภูมิรัฐศาสตร์อย่างจริงจัง
จากนั้นขั้นตอนสำคัญคือ การเอางานวิจัยปลอมๆ เหล่านี้ไปเสนอต่อสมาชิกสภาคองเกรสและเจ้าหน้าที่ระดับสูง เพื่อสร้าง "ทางเลือกของนโยบาย" หรือ "ข้อมูลประกอบการตัดสินใจ" ที่จริงๆ แล้วถูกออกแบบมาเพื่อชี้นำความคิดของนักการเมืองอเมริกันให้ไปในทิศทางที่อิสราเอลต้องการ
นี่คือจุดเปลี่ยนครั้งสำคัญของเกมโฆษณาชวนเชื่อโลก จากเดิมที่เรารู้จักกันดีในรูปแบบของ "บอท" หรือ "ทัวร์นกกระจอก" (troll farm) ที่เอาไว้ปั่นประเด็นในโซเชียลมีเดีย แต่นี่คือการโจมตีสถาบันความรู้โดยตรง มันคือการ "วางยา" วงการวิชาการและนโยบายสาธารณะ ซึ่งเป็นฐานรากของการตัดสินใจที่สำคัญของประเทศ
ผมว่าประเด็นนี้มันน่ากลัวกว่าการเมืองระหว่างประเทศของอิสราเอลกับปาเลสไตน์เสียอีก เพราะมันคือการตั้งคำถามกับ "ความน่าเชื่อถือ" ของข้อมูลในยุค AI เราจะรู้ได้ยังไงว่ารายงานวิจัยที่นักการเมืองกำลังอ่านอยู่ มันเขียนโดยมนุษย์หรือเขียนโดย AI เพื่อผลประโยชน์ของใครบางคน?
หลายคนอาจจะคิดว่า "ก็แค่รายงานวิจัยปลอมๆ จะไปสำคัญอะไร" แต่ลองคิดดูดีๆ ว่าถ้าสมาชิกสภาคองเกรสได้รับรายงาน "วิเคราะห์" ที่ดูสมเหตุสมผล มีเอกสารอ้างอิงครบครัน (ซึ่ง AI สร้างได้หมด) เกี่ยวกับนโยบายตะวันออกกลาง ย่อมมีผลต่อการลงมติหรือการออกเสียงแน่นอน นี่คือการแทรกซึมในระดับนโยบาย ไม่ใช่แค่การปั่นกระแสในทวิตเตอร์
ที่แย่ไปกว่านั้นคือ เมื่อ AI มีความสามารถในการเลียนแบบสไตล์การเขียนของมนุษย์ได้จนแยกแทบไม่ออก การตรวจสอบความน่าเชื่อถือของข้อมูลจะกลายเป็นเรื่องยากขึ้นเรื่อยๆ เราไม่ได้กำลังเจอกับ "ข่าวปลอม" ที่พิสูจน์ได้ง่ายๆ แต่เรากำลังเจอกับ "ความรู้ปลอม" ที่ถูกออกแบบมาให้ดูจริงจังและน่าเชื่อถือ
สำหรับวงการเทคโนโลยี นี่คือสัญญาณเตือนภัยครั้งใหญ่ที่สุดว่าการพัฒนา AI โดยไม่คำนึงถึงจริยธรรมและความปลอดภัย จะนำไปสู่เครื่องมือทำลายล้างความจริงที่ทรงพลังแค่ไหน มันไม่ใช่แค่เรื่องDeepfake หรือการแอบอ้างเสียง แต่คือการโจมตีกระบวนการคิดและตัดสินใจของสังคมทั้งระบบ
จุดที่น่ากังวลที่สุด
ไม่ใช่ตัว AI เอง แต่คือการที่มนุษย์ใช้ AI เป็นเครื่องมือในการสร้าง "ความจริง" หลายชั้น จนคนทั่วไปไม่สามารถแยกแยะได้อีกต่อไปว่าอะไรจริงอะไรเท็จ
ความล้มเหลวของแพลตฟอร์ม
สื่อสังคมออนไลน์และเสิร์ชเอนจินยังคงปล่อยให้เนื้อหาที่สร้างโดย AI แพร่กระจายได้โดยไม่มีการกำกับดูแลที่มีประสิทธิภาพ ทำให้ปฏิบัติการแบบนี้ขยายวงกว้างได้ในต้นทุนที่ต่ำมาก
ที่สำคัญไปกว่านั้นคือ การที่หน่วยข่าวกรองของประเทศหนึ่งๆ ใช้เงินภาษีประชาชนมาทำแบบนี้ แสดงให้เห็นว่าพวกเขาตระหนักดีถึงพลังของ AI ในการ "ครอบงำ" ความคิดเห็นของประชาชนในประเทศอื่น มันคือสงครามลูกผสม (Hybrid Warfare) รูปแบบใหม่ที่ไม่มีขีปนาวุธ แต่มี "ข้อมูล" เป็นอาวุธ
ผมมองว่าข่าวนี้คือ "กระสุนนัดแรก" ของสงครามข้อมูลยุคใหม่ที่ทุกประเทศต้องตื่นตัว มันไม่ใช่แค่เรื่องของอิสราเอลหรืออเมริกา แต่เป็นบทเรียนให้ทุกสังคมรู้ว่า ยุคที่ AI เขียน "ความรู้" ได้เองนั้น ความสงสัยและทักษะการคิดวิเคราะห์คือเกราะป้องกันเดียวที่เราจะมี มิฉะนั้นเราจะกลายเป็นเพียงผู้รับข้อมูลโดยไม่รู้ตัว ว่ากำลังถูกชักจูงไปที่ไหน
ที่มา: The Guardian — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...