เจาะประเด็น
AI Ethics
AI ลายน้ำข้อความคือของเล่นชิ้นใหม่ ทำอะไรไม่ได้เลยจริงๆ
วงการเทคพยายามชูธง "ติดลายน้ำ" เพื่อพิสูจน์ว่าข้อความนี้เขียนโดย AI แต่ความจริงคือใครก็ลบออกได้ในไม่กี่วินาที
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
หนทางแก้ปัญหา "จะรู้ได้ยังไงว่าข้อความนี้เขียนโดย AI?" ที่บริษัทเทคใหญ่ๆ พยายามผลักดันกันสุดชีวิต ไม่ว่าจะเป็น OpenAI หรือ Google คือการฝังลายน้ำ (watermark) ลงในเนื้อหาที่ AI สร้างขึ้น เป็นเหมือนตราประทับลับที่มองไม่เห็นด้วยตา แต่เครื่องมือตรวจจับสามารถจับได้
ฟังดูดีใช่มั้ย? แต่บทความจาก Sean Goedecke บน Hacker News ที่เพิ่งถูกพูดถึงอย่างกว้างขวาง บอกชัดเจนว่าแนวคิดนี้มันเพ้อฝัน และกำลังจะถูกทุบให้แตกเป็นเสี่ยงๆ เพราะ "ลายน้ำข้อความ" ไม่เหมือนลายน้ำในรูปภาพหรือวิดีโอ มันมีจุดอ่อนเชิงโครงสร้างที่ทำให้การลบออกเป็นเรื่องง่ายดายเกินกว่าจะเรียกว่าเป็น "มาตรการป้องกัน" ได้
ประเด็นมันอยู่ตรงนี้: AI ที่สร้างข้อความไม่ได้ฝังลายน้ำแบบซ่อนในพิกเซลของภาพ แต่ไปปรับเปลี่ยน "ความน่าจะเป็น" ของคำที่เลือกใช้ ซึ่งเป็นกลไกที่ละเอียดอ่อนและเปราะบาง แค่มีคนจับแพทเทิร์นได้ว่าลายน้ำมันทำงานยังไง ปุ๊บ! ก็เขียนสคริปต์ลบได้ทันที
การติดลายน้ำบนข้อความของ AI ส่วนใหญ่ทำโดยการแบ่งคำศัพท์ออกเป็นสองกลุ่ม แล้วบังคับให้โมเดลเลือกคำจากกลุ่มที่กำหนดไว้ตามกฎลับๆ ซึ่งกฎนี้แหละคือลายน้ำ ถ้าคุณรู้กฎ คุณก็แค่เลือกคำอีกกลุ่มแทน หรือใช้เทคนิคง่ายๆ อย่างการให้ AI ตัวอื่น "เรียบเรียงใหม่" (paraphrase) ก็ทำลายลายน้ำได้หมดแล้ว โดยที่ความหมายของข้อความแทบไม่เพี้ยน
ไม่ต้องเป็นแฮกเกอร์ระดับโลกก็ทำได้ แค่เปิด ChatGPT ขึ้นมาแล้วพิมพ์ว่า "ช่วยเรียบเรียงข้อความนี้ใหม่หน่อย" ก็จบพิธี ลายน้ำหายวับไปกับตา นี่คือจุดอ่อนที่ไม่มีทางแก้ เพราะธรรมชาติของภาษามนุษย์มันยืดหยุ่นเกินกว่าจะล็อกด้วยกฎตายตัว
ที่เห็นแล้วขำคือ บริษัทใหญ่ๆ พยายามขาย "วอเตอร์มาร์ก" ให้เป็นทางออกของปัญหาข้อมูลเทียม (disinformation) ทั้งที่รู้ๆ กันอยู่ว่ามันเป็นแค่เกมโชว์ ใครก็ตามที่ตั้งใจจะทำชั่วจริงๆ ย่อมหาทางเลี่ยงได้เสมอ มันเหมือนการล็อกรถจักรยานด้วยกุญแจดิจิทัล ทั้งที่ขโมยแค่ยกขึ้นไปวางบนรถกระบะก็จบ
อีกมุมหนึ่งที่สำคัญไม่แพ้กันคือ มาตรการนี้มันสร้างภาระให้คนทั่วไปมากกว่าคนร้าย เพราะคนปกติที่ใช้ AI ช่วยทำงานจะโดนตราหน้าว่า "ข้อความนี้ไม่น่าเชื่อถือ" ทั้งที่เนื้อหาถูกต้อง ส่วนคนทำผิดจริงๆ ไม่มีวันถูกจับได้อยู่ดี
นี่ไม่ใช่เรื่องใหม่ด้วยซ้ำ นักวิจัยรู้กันมานานแล้วว่าการโจมตีแบบ paraphrasing ทำลายลายน้ำได้เกือบ 100% แต่บริษัทเทคกลับเลือกที่จะเมินเฉย เพราะมันเป็น "เรื่องที่ต้องมีไว้" ทางการเมืองมากกว่าเรื่องที่ "ใช้ได้จริง"
ถ้าถามผมตรงๆ การไล่ล่าลายน้ำข้อความคือทางตัน และเสียเวลาเปล่า เงินและทรัพยากรที่ทุ่มให้กับโครงการนี้ ควรเอาไปพัฒนาระบบตรวจสอบบริบทของข้อมูล (contextual verification) หรือให้ความรู้ประชาชนเรื่องการรู้เท่าทันสื่อดีกว่า เพราะต่อให้มีลายน้ำที่สมบูรณ์แบบ ก็ไม่ได้แปลว่าคนจะเลิกเชื่อข่าวปลอม
สรุปให้ชัด: ลายน้ำข้อความ AI ไม่ใช่ทางรอด แต่เป็นเพียง "ท่าที" ของบริษัทเทคที่อยากแสดงว่าพวกเขากำลัง "ทำอะไรสักอย่าง" กับปัญหาข้อมูลเทียม ในเมื่อมันลบออกได้ง่ายๆ แบบนี้ อย่าหวังพึ่งมันเป็นเกราะป้องกันเด็ดขาด สิ่งเดียวที่จะปกป้องคุณได้คือวิจารณญาณของตัวคุณเองเท่านั้น
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...