มีใครลองเล่น WMTrace ตัวนี้ยัง? Anthropic เพิ่งเอา watermark ไปใช้ใน Claude จริงๆ นะ

เมื่อกี้เลื่อนๆ อยู่ใน HN เจอกระทู้ Show HN ชื่อ WMTrace – See how LLM text watermarks work เห็นว่า Anthropic เพิ่ง adopt ตัว watermark ไปใช้จริงด้วย เลยสะดุดมาก เพราะปกติเรามองว่าเรื่องนี้มันเป็นแค่แนวคิดวิจัยไกลตัว แต่พอมีบริษัทใหญ่เอาลงผลิตภัณฑ์จริงก็ต้องสนใจหน่อยละ เปิดเข้าไปดูใน GitHub ของเค้า ชื่อ repo ว่า llm-watermark โดย gtesei ยังไม่มี comment เลยด้วยซ้ำ แต่วิธีเค้าทำคือโชว์ให้เห็นภาพว่าการฝังลายน้ำในข้อความที่ LLM สร้างออกมามันทำงานยังไงแบบเห็นจะๆ ไปทีละขั้น

ใน repo เค้าอธิบายแนวคิดของ watermarking ไว้ค่อนข้างละเอียด คือเวลาโมเดล generate token ออกมา มันจะมีการแบ่ง vocabulary ออกเป็นสองกลุ่มแบบสุ่มๆ ตาม seed ที่กำหนด แล้วบังคับให้โมเดลเลือกคำจากกลุ่มที่ถูกกำหนดไว้ ทำให้คนที่รู้ seed ก็สามารถตรวจสอบได้ว่าข้อความนี้มาจากโมเดลตัวไหน โดยที่คนอ่านทั่วไปไม่รู้สึกว่าข้อความมันผิดธรรมชาติ ตัว WMTrace นี้เค้าทำเป็น visualizer ให้เห็นการตัดสินใจของโมเดลแต่ละ token ว่าตกอยู่ในกลุ่มสีไหน ซึ่งผมว่ามันทำให้เข้าใจง่ายกว่าไปอ่าน paper เยอะมาก

ส่วนตัวผมมองว่าเรื่องนี้เป็นดาบสองคมจริงๆ ด้านหนึ่งมันดีที่ช่วยแก้ปัญหาเรื่อง deepfake ข้อความ หรือการเอา AI ไปทำสแปม/ข่าวปลอม เพราะตรวจสอบย้อนหลังได้ แต่อีกด้านผมกังวลเรื่องความเป็นส่วนตัว ถ้าทุกข้อความที่ AI สร้างมีลายน้ำฝังอยู่ มันก็เหมือนเราทิ้งร่องรอยไว้ตลอดเวลา แล้วถ้ารัฐบาลหรือบริษัทใหญ่ๆ รู้วิธีแกะลายน้ำนี้ละ? ยิ่ง Anthropic เอาไปใช้จริงใน Claude ก็ยิ่งหมายความว่าข้อความที่เราคุยกับ Claude ถูกติดแท็กไว้หมดแล้ว แม้แต่ตอนที่เราจงใจให้มันเขียนอะไรก็ตาม

เลยอยากถามเพื่อนๆ ในกลุ่มว่า มีใครลองเล่น WMTrace หรือศึกษาวิธี watermark ของ Anthropic บ้างแล้ว? แล้วคิดว่ามันจะส่งผลต่อการใช้งาน AI ในชีวิตประจำวันยังไง โดยเฉพาะเรื่องเสรีภาพในการแสดงความเห็น หรือว่ามองว่ามันเป็นเรื่องไกลตัว ไม่กระทบเราจริงๆ? ขอความเห็นหน่อยครับ