เจาะประเด็น
AI / Community
HN กลายเป็นที่รวมบอทไปแล้วหรือยัง? ตัวเลขมันบอกว่าใกล้จะถึงจุดนั้นแล้ว
งานวิจัยชิ้นหนึ่งลองเทรนโมเดลแยกมนุษย์กับ AI ใน Hacker News แล้วผลลัพธ์ที่ออกมาทำให้ต้องหยุดคิดจริงๆ ว่าเรากำลังคุยกับใครอยู่บนอินเทอร์เน็ต
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเราแยกไม่ออกแล้วว่าใครคือคนและใครคือบอท คำถามต่อไปคือ "ความเห็น" ที่เราอ่านอยู่ทุกวันนี้ มันยังเป็น "ความเห็นของมนุษย์" อยู่ไหม?
เรื่องนี้มันเริ่มมาจากความสงสัยง่ายๆ ของคนทำบล็อกชื่อ coredump.cx เขาอยากรู้ว่าเว็บ Hacker News (HN) ที่เขาอ่านทุกวันนี้ ยังมีมนุษย์จริงๆ โพสต์ความคิดเห็นอยู่กี่เปอร์เซ็นต์กันแน่ เพราะทุกคนเริ่มรู้สึกได้ว่ามันแปลกๆ — คอมเมนต์บางอันมันเรียบร้อย ถูกต้อง เป็นทางการ และไม่มีอารมณ์จนเกินเหตุ เหมือนอ่านรายงานบริษัทมากกว่าคนแวะมาเล่าประสบการณ์ทำงาน แล้วเขาก็เลยลองทำอะไรบางอย่างที่ตรงไปตรงมามากๆ
คือเขาสร้างโมเดลแมชชีนเลิร์นนิงขึ้นมาเพื่อแยกแยะว่าคอมเมนต์ไหนน่าจะมาจากมนุษย์ และคอมเมนต์ไหนน่าจะมาจาก AI โดยเทรนกับข้อมูลคอมเมนต์บน HN ที่มีอยู่จริง ใช้เทคนิคที่เรียกว่า cross-validation เพื่อให้โมเดลไม่เพ้อเกินจริง พูดง่ายๆ คือไม่ได้เดาสุ่มๆ แต่มีหลักการ และผลลัพธ์ที่ได้มันน่าสนใจกว่าแค่ "มีบอทอยู่บ้าง" เยอะมาก
วิธีคิดของเขามันไม่ได้ซับซ้อนด้วย เขาเอาโมเดลไปรันกับคอมเมนต์ในช่วงเวลาหนึ่ง โดยเปรียบเทียบระหว่างชุดข้อมูลที่รู้อยู่แล้วว่ามนุษย์เขียน กับชุดข้อมูลที่คาดว่าน่าจะเป็น AI จากนั้นก็ดูแนวโน้มว่าโมเดลมันชี้ไปทางไหนมากกว่ากัน ซึ่งตัวเลขที่ออกมามันไม่ได้น่ากลัวแบบ "ครึ่งหนึ่งของ HN คือบอท" แต่มันก็ไม่ได้น่าอุ่นใจแบบ "มีบอทแค่ไม่กี่ตัว" ด้วย
ประเด็นสำคัญที่ทำให้เรื่องนี้น่าคิดคือ มันไม่ใช่แค่เรื่องของ HN เว็บเดียว แต่มันคือภาพสะท้อนของอินเทอร์เน็ตยุคนี้ที่ AI เข้ามาอยู่ในทุกซอกมุม ไม่ว่าจะเป็นเฟซบุ๊ก ทวิตเตอร์ (หรือ X) เรดดิท หรือแม้แต่เว็บบอร์ดเล็กๆ ที่คิดว่าตัวเองปลอดภัยจากกระแสนี้ เพราะถ้าแม้แต่ HN ซึ่งเป็นชุมชนนักเทคโนโลยีตัวยงที่ชอบจับผิดอะไรแปลกๆ ยังแยกยากขนาดนี้ แล้วเว็บอื่นๆ ล่ะ?
สิ่งที่บทความนี้ชี้ให้เห็นและผมว่ามันแหลมมากคือ ปัญหาไม่ได้อยู่ที่ "มีบอท" แต่อยู่ที่ "เรารู้สึกได้ถึงการมีอยู่ของบอท" ต่างหาก เพราะถ้าบอทมันโพสต์อะไรโง่ๆ ชัดๆ ก็คงไม่เป็นไร แต่บอทสมัยนี้มันฉลาดพอที่จะกลมกลืนไปกับมนุษย์ได้อย่างแนบเนียน มันแสดงความคิดเห็นได้สมเหตุสมผล อ้างอิงแหล่งข้อมูลได้ หรือแม้แต่แกล้งทำเป็นผิดพลาดแบบมนุษย์เพื่อหลอกโมเดลตรวจจับด้วยซ้ำ
ผมว่าสิ่งที่บทความนี้ทำได้ดีมากคือการตั้งคำถามกับ "ความเชื่อใจ" ของเราบนโลกออนไลน์ ก่อนหน้านี้เรามีกติกาเล่นๆ อย่าง "กฎของโพ (Poe's Law)" ที่บอกว่าไม่ว่าคุณจะเขียนอะไรประชดประชันแค่ไหน ก็จะมีใครสักคนคิดว่าคุณจริงจังเสมอ แต่ตอนนี้เรากำลังเจอกับอะไรที่หนักกว่านั้น — เรากำลังเจอกับ "กฎของบอท" ที่บอกว่า ไม่ว่าคุณจะเขียนอะไรจริงใจแค่ไหน ก็ไม่มีทางพิสูจน์ได้ว่าคุณไม่ใช่บอท
ผลกระทบระยะสั้น
คุณค่าของคอมเมนต์บนเว็บบอร์ดลดลงทันที เพราะทุกคนเริ่มตั้งคำถามว่าคนที่เห็นด้วยกับเรานั้นเป็นคนจริงหรือแค่บอทที่ถูกตั้งโปรแกรมให้คล้อยตาม
ผลกระทบระยะยาว
ชุมชนออนไลน์ที่เคยพึ่งพาการแลกเปลี่ยนความคิดเห็นระหว่างมนุษย์ จะต้องออกแบบระบบใหม่เพื่อพิสูจน์ "ความเป็นมนุษย์" ซึ่งอาจทำให้ความเป็นส่วนตัวลดลง หรือไม่ก็ต้องยอมรับว่าความคิดเห็นที่อ่านอยู่คือ "เสียงของเครื่องจักร"
แน่นอนว่างานชิ้นนี้ไม่ได้สมบูรณ์แบบ ตัวโมเดลเองก็อาจจะผิดพลาดได้ มีทั้ง false positive และ false negative แต่ประเด็นที่เขาต้องการสื่อไม่ได้อยู่ที่ความแม่นยำของโมเดล แต่อยู่ที่ทิศทางที่มันชี้ให้เห็น — มันกำลังเพิ่มขึ้นเรื่อยๆ และถ้าอัตราแบบนี้ยังดำเนินต่อไป อีกไม่กี่ปีเราอาจต้องถามกันใหม่ว่า "HN เหลือมนุษย์กี่เปอร์เซ็นต์"
มันถึงเวลาแล้วที่เราต้องหยุดคิดว่า "AI จะมาแทนที่งานเขียนหรือเปล่า" แล้วหันมาถามคำถามที่สำคัญกว่าว่า "เราจะไว้ใจข้อมูลที่อ่านบนอินเทอร์เน็ตได้ยังไง เมื่อผู้เขียนอาจไม่ใช่มนุษย์" — และ HN คือสนามทดสอบที่ชัดเจนที่สุดของคำถามนี้ ใครที่คิดว่าชุมชนตัวเองรอดพ้นจากเรื่องนี้ไปได้ ผมว่าเริ่มเตรียมตัวรับมือได้เลย เพราะมันกำลังมาถึงทุกที่
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...