เจาะประเด็น
AI
AI ของ Anthropic ยิงเบาะแสคดีฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย
เรื่องนี้ไม่ได้จบแค่โมเดล "มั่ว" แต่เปิดคำถามใหญ่ว่าเรากำลังให้ AI ทำอะไรอยู่กันแน่
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI แต่งเรื่องขึ้นมาเองได้ขนาดนี้ แล้วเราจะเชื่ออะไรจากมันได้อีก
เรื่องนี้ฟังครั้งแรกคือแบบ...จริงดิ? โมเดล AI ของ Anthropic ยิงข้อมูลเท็จเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลาย เข้าไปในช่องรับเบาะแสของตำรวจฟิลาเดลเฟีย (PPD) ตามรายงานของ 6abc ซึ่งถ้าใครคิดว่านี่เป็นแค่เรื่องเล็กๆ ที่ AI พลาด ก็คงต้องคิดใหม่
ตามแถลงการณ์ที่ PPD ปล่อยออกมาเมื่อวันศุกร์ที่ผ่านมา โมเดลตัวนี้ส่งเบาะแสผ่านเว็บไซต์ PhillyUnsolvedMurders.com เมื่อวันที่ 18 กรกฎาคม แต่ปรากฏว่านักสืบไม่เคยได้ตรวจสอบมันเลย เพราะมันถูกมาร์กไว้ว่า... อืม ตรงนี้แหละที่เริ่มน่าสนใจ
คำถามแรกที่โผล่ขึ้นมาในหัวคือ "เดี๋ยวนะ AI ไปส่งเบาะแสให้ตำรวจได้ยังไง" คำตอบคือมันทำได้ ถ้ามีคนตั้งค่าให้มันทำ หรือมีระบบที่เชื่อมต่อมันเข้ากับช่องทางรับเรื่องพวกนี้ ซึ่งตรงนี้แหละที่กลายเป็นประเด็นใหญ่ เพราะมันไม่ใช่แค่เรื่องที่ AI "ตอบผิด" ในแชทส่วนตัว แต่เป็นการที่ AI ผลิตข้อมูลเท็จออกมาในบริบทที่คนเอาไปใช้ตัดสินใจเรื่องจริงได้
ข่าวนี้ยังไม่ชัดว่าใครเป็นคนตั้งระบบให้ AI ตัวนี้ส่งเบาะแสเข้าไป หรือมันเกิดขึ้นจากกระบวนการอัตโนมัติแบบไหน แต่ไม่ว่ายังไง ผลลัพธ์ก็คือเกิด "เบาะแสปลอม" ขึ้นมาในระบบที่ควรจะเก็บข้อมูลจริงไว้สืบสวนคดีอาชญากรรม
ถ้ามองผิวเผิน คนอาจจะคิดว่า "ก็แค่ตำรวจไม่ตรวจสอบเอง" แต่ประเด็นจริงๆ คือ ระบบ AI ในปัจจุบันยัง "hallucinate" หรือแต่งข้อมูลขึ้นมาเองได้อยู่ และเมื่อมันถูกนำไปวางในบริบทที่ต้องการความแม่นยำสูง เช่น งานสืบสวนคดีอาญา ความผิดพลาดแบบนี้ไม่ใช่เรื่องเล่นๆ
ลองคิดดูว่าถ้าเบาะแสนี้ถูกนำไปตรวจสอบจริง มันจะกินทรัพยากรของตำรวจไปเท่าไหร่ เสียเวลาสืบสวนคดีจริงไปแค่ไหน และที่แย่ที่สุดคือ มันอาจทำให้ผู้บริสุทธิ์ตกเป็นผู้ต้องสงสัยได้เลย
ตรงนี้แหละที่ทำให้ผมหยุดคิด นั่นหมายความว่าระบบของ PhillyUnsolvedMurders.com มีกลไกกรองบางอย่างที่จับได้ว่าเบาะแสนี้ไม่น่าเชื่อถือ หรืออาจเป็นเพราะมันถูกมาร์กจากระบบอัตโนมัติว่าเป็นสแปม ซึ่งถ้าเป็นแบบนั้นจริง ก็ต้องถามต่อว่า ถ้าไม่มีระบบกรองนี้ล่ะ? เบาะแสปลอมนี้จะหลุดเข้าไปถึงมือนักสืบจริงไหม?
และที่สำคัญกว่านั้น — Anthropic ยังไม่ออกมาแสดงความรับผิดชอบอะไรในข่าวนี้เลย ซึ่งมันสะท้อนปัญหาที่วงการ AI กำลังเจออยู่ตอนนี้ คือบริษัทพัฒนาโมเดลมักผลักความรับผิดชอบไปที่ "ผู้ใช้งาน" เมื่อเกิดเรื่องแบบนี้ ทั้งที่ความจริงแล้ว การออกแบบโมเดลให้ปลอดภัยจากการผลิตข้อมูลเท็จในบริบทอ่อนไหว ควรเป็นหน้าที่ของบริษัทตั้งแต่แรก
เรื่องนี้ไม่ใช่เคสแรกที่ AI สร้างข้อมูลเท็จในบริบทจริงจัง และแน่นอนว่าจะไม่ใช่เคสสุดท้าย สิ่งที่ต้องจับตาคือ หน่วยงานรัฐและองค์กรที่นำ AI ไปใช้ในงานสาธารณะ จะมีมาตรการตรวจสอบยังไง และ Anthropic จะออกมาชี้แจงหรือปรับปรุงระบบยังไง
อีกมุมที่ผมคิดว่าน่าสนใจคือ มันสะท้อนว่าเรากำลังอยู่ในยุคที่ AI ไม่ได้แค่ตอบคำถามในแชท แต่มันเริ่มเข้าไปมีบทบาทในกระบวนการที่ส่งผลต่อชีวิตคนจริงๆ แล้ว — และเรายังตามไม่ทันมันเลย
เคสนี้ไม่ใช่แค่เรื่องที่ AI "ตอบผิด" แต่เป็นสัญญาณเตือนว่าเรายังไม่มีกรอบความรับผิดชอบชัดเจนพอสำหรับ AI ที่ถูกนำไปใช้ในงานสาธารณะ ถ้าไม่รีบแก้ ครั้งต่อไปที่ AI แต่งเรื่อง อาจไม่ใช่แค่เบาะแสปลอมที่ไม่มีใครตรวจ แต่เป็นอะไรที่หนักกว่านั้น
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 2
กำลังโหลดความคิดเห็น...