เจาะประเด็น
Open Source / AI
เกมโอเพนซอร์สอย่าง Luanti โดนถอดจาก Google Play เพราะ "AI ลั่น" แจ้งลิขสิทธิ์มั่วๆ
ระบบ AI ตรวจพบการละเมิดลิขสิทธิ์แบบไร้หลักฐาน แล้วแพลตฟอร์มอย่าง Google เล่นบทผู้พิพากษาทันทีโดยไม่มีการตรวจสอบใดๆ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าระบบ AI กลายเป็นผู้ตัดสินชี้ขาดเรื่องลิขสิทธิ์โดยที่มนุษย์ไม่ต้องรับผิดชอบอะไรเลย โลกของโอเพนซอร์สจะเหลืออะไรให้ใช้กัน?
เริ่องนี้มันโคตรจะน่าหงุดหงิดเลยจริงๆ ฟังนะ — Luanti (ชื่อเดิม Minetest) เกมแซนด์บ็อกซ์โอเพนซอร์สชื่อดังที่หลายคนรู้จักดี อยู่ดีๆ ก็โดนถอดออกจาก Google Play แบบไม่ให้ตั้งตัว เพราะเจ้าหน้าที่ตรวจสอบลิขสิทธิ์อัตโนมัติของ Google (ที่ขับเคลื่อนด้วย AI) แจ้งว่ามี "การละเมิดลิขสิทธิ์" แต่ปรากฏว่าหลักฐานที่ว่ามันคือ... ไม่มีอะไรเลย แบบว่ามั่วล้วนๆ
ทีมพัฒนา Luanti ออกมาแถลงผ่านบล็อกอย่างเป็นทางการว่า พวกเขาได้รับแจ้งเรื่องการละเมิดลิขสิทธิ์จากระบบอัตโนมัติของ Google Play ซึ่งอ้างว่าตรวจพบ "เนื้อหาที่ละเมิดลิขสิทธิ์" ในเกม แต่เมื่อทีมงานขอให้ชี้แจงว่ามันคืออะไร ตรงไหน ใครเป็นเจ้าของลิขสิทธิ์ — คำตอบที่ได้กลับกลายเป็นความเงียบสนิท และในท้ายที่สุดแอปก็โดนถอดออกจากสโตร์อยู่ดี
นี่มันคืออะไรกันแน่? ผมเข้าใจว่า Google พยายามทำให้ระบบตรวจจับการละเมิดลิขสิทธิ์เป็นอัตโนมัติเพื่อรับมือกับปริมาณแอปมหาศาลที่อัปโหลดทุกวัน แต่การปล่อยให้ AI ตัดสินใจแบบไร้การตรวจสอบจากมนุษย์มันอันตรายพอๆ กับการตั้งกล้องวงจรปิดแล้วให้ AI ตัดสินว่าคนไหนเป็นขโมย แล้วจับเข้าคุกทันทีโดยไม่มีการสอบสวน
เรื่องนี้มันเริ่มจาก "Tracer AI" (ตามชื่อใน URL ของบล็อก) ซึ่งเป็นระบบที่ใช้โมเดล AI ในการสแกนโค้ดและเนื้อหาเพื่อหาความคล้ายคลึงกับผลงานที่มีลิขสิทธิ์ ปัญหาคือ AI พวกนี้มันไม่ได้ "เข้าใจ" บริบทอะไรเลย มันแค่จับแพทเทิร์นที่ดูคล้ายกันแล้วฟันธงว่า "นี่ละเมิด!" ซึ่งในกรณีของ Luanti ที่เป็นโครงการโอเพนซอร์สที่มีการพัฒนามานานกว่า 10 ปี โค้ดบางส่วนย่อมมีความคล้ายคลึงหรืออ้างอิงกับไลบรารีอื่นๆ ที่เปิดเผยอยู่แล้ว ซึ่งนั่นคือเรื่องปกติของวงการซอฟต์แวร์เสรี
แต่สิ่งที่ทำให้เรื่องนี้แย่ยิ่งกว่าเดิมคือ กระบวนการอุทธรณ์ของ Google Play ที่แทบจะไม่มีอยู่จริงในทางปฏิบัติ ทีม Luanti พยายามติดต่อเพื่อขอรายละเอียดและหลักฐาน แต่กลับได้คำตอบอัตโนมัติเดิมๆ ซ้ำไปซ้ำมา ไม่มีมนุษย์คนไหนสักคนที่ยอมรับผิดหรือออกมาอธิบายว่าระบบ AI ของตัวเองพลาด
ฟังนะ นี่ไม่ใช่แค่เรื่องของเกมโอเพนซอร์สเกมหนึ่งโดนถอดออกจากสโตร์ แต่เป็นสัญญาณอันตรายต่อระบบนิเวศทั้งหมดของซอฟต์แวร์โอเพนซอร์สบนแพลตฟอร์มปิดอย่าง Google Play หาก AI ตรวจสอบลิขสิทธิ์มั่วๆ แบบนี้ยังทำงานต่อไปโดยไม่มีการกำกับดูแล เราจะเห็นโปรเจกต์ดีๆ โดนแบนเพราะความผิดพลาดของเครื่องจักรอีกเรื่อยๆ และที่แย่กว่านั้นคือ นักพัฒนาที่ไม่มีชื่อเสียงหรือทรัพยากรพอจะสู้กับระบบราชการอัตโนมัติของ Google ก็จะจำใจยอมแพ้ไปเฉยๆ
อีกมุมที่ต้องมองคือเรื่องของ "อาวุธ" ในการกลั่นแกล้งคู่แข่ง ใครก็ตามที่อยากกำจัดคู่แข่งบน Google Play ก็แค่ส่งคำร้องเรียนลิขสิทธิ์ปลอมๆ หรือแม้แต่ใช้ AI สร้างหลักฐานเท็จขึ้นมา แล้วปล่อยให้ระบบอัตโนมัติของ Google จัดการให้ แถมไม่ต้องรับผิดชอบอะไรด้วย เพราะกระบวนการมันทั้งหมดเป็นระบบอัตโนมัติ ไม่มีใครต้องเซ็นรับรองความถูกต้อง
ผมไม่ได้บอกว่า Google ต้องเลิกใช้ AI ในการตรวจสอบเนื้อหา แต่การปล่อยให้ AI ตัดสินใจแบบเบ็ดเสร็จโดยไม่มีมนุษย์ตรวจทานมันคือความขี้เกียจและขาดความรับผิดชอบอย่างร้ายแรง ถ้าคุณจะใช้ AI ในการกลั่นกรอง ก็ต้องมีระบบ Appeal ที่คนจริงๆ นั่งดู และต้องมีบทลงโทษสำหรับผู้ที่ส่งคำร้องเท็จด้วย ไม่ใช่ปล่อยให้คนดีๆ โดนลงโทษโดยไม่มีโอกาสแก้ตัว
Luanti เป็นเกมโอเพนซอร์สที่มีชุมชนผู้ใช้ขนาดใหญ่และแข็งแกร่ง การโดนถอดออกจาก Google Play ครั้งนี้แม้จะสร้างความเสียหายให้กับการเข้าถึงผู้ใช้ใหม่ๆ แต่ชุมชนก็ยังมีช่องทางอื่นในการดาวน์โหลด (เช่น F-Droid หรือเว็บไซต์โดยตรง) แต่คำถามคือ แล้วโปรเจกต์เล็กๆ ที่ไม่มีชุมชนแข็งแรงแบบนี้ล่ะ? พวกเขาจะไปทางไหน?
AI ไร้การกำกับดูแล
ระบบตรวจสอบอัตโนมัติที่ไม่มีมนุษย์คอยทวนสอบ กลายเป็นผู้ตัดสินชี้ขาดโดยปราศจากความรับผิดชอบ
กระบวนการอุทธรณ์ที่ไร้ค่า
การติดต่อขอหลักฐานกลับได้เพียงคำตอบอัตโนมัติซ้ำซาก ไม่มีช่องทางให้มนุษย์ได้พูดคุยกับมนุษย์
โอเพนซอร์สเป็นเหยื่อรายใหญ่
ซอฟต์แวร์เสรีที่โค้ดเปิดเผยและมีการอ้างอิงข้ามกัน ย่อมเสี่ยงต่อการถูก AI ฟันธงผิดพลาดได้ง่ายที่สุด
เรื่องนี้คือตัวอย่างชั้นดีที่พิสูจน์ว่า AI ที่ขาดการกำกับดูแลและการตรวจทานจากมนุษย์ ไม่ได้ช่วยให้โลกดีขึ้น แต่กลับสร้างความเสียหายให้กับคนบริสุทธิ์ได้อย่างไม่น่าให้อภัย Google ต้องรีบแก้ไขกระบวนการนี้ก่อนที่ความเชื่อมั่นในแพลตฟอร์มจะพังทลายไปมากกว่านี้ — หรือไม่ก็ต้องยอมรับว่าคุณไม่เหมาะที่จะเป็นผู้ดูแลระบบนิเวศแอปที่ใหญ่ที่สุดในโลก
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...