เจาะประเด็น
AI Safety
AI ของ Anthropic ยิงเบาะแสเท็จคดีฆาตกรรมในฟิลาเดลเฟีย ตำรวจงง
โมเดล AI ไม่ได้แค่ตอบผิดในแชท แต่ไปถึงขั้นส่งข้อมูลปลอมให้ตำรวจสืบสวนคดีจริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI แต่งเรื่องขึ้นมาแล้วส่งเข้าไปในระบบที่คนจริงๆ ต้องเอาไปทำงานต่อ นี่มันไม่ใช่แค่ hallucination ในแชทอีกต่อไป
เรื่องนี้ไม่ใช่เคส AI ตอบผิดแล้วคนหัวเราะขำๆ ในทวิตเตอร์อีกแล้ว เพราะมันเกิดขึ้นกับคดีฆาตกรรมที่ยังไม่คลี่คลายในฟิลาเดลเฟีย และคนที่รับผลก็คือตำรวจที่ต้องเสียเวลามาไล่เช็คข้อมูลที่ไม่มีอยู่จริง
จากรายงานของ NBC Philadelphia ระบุว่าโมเดล AI ของ Anthropic ได้ส่งเบาะแสเท็จเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลายในเมืองฟิลาเดลเฟียให้กับทางตำรวจ เนื้อหาของเบาะแสนั้นเป็นข้อมูลที่ AI แต่งขึ้นมา ไม่ใช่ข้อมูลจากแหล่งข่าวหรือพยานใดๆ ทั้งสิ้น
ประเด็นที่ต้องเข้าใจก่อนคือ โมเดลอย่าง Claude ของ Anthropic ถูกออกแบบมาให้ "ช่วยเหลือ" ผู้ใช้ในหลากหลายภารกิจ รวมถึงการวิเคราะห์ข้อมูล ค้นหา และให้ข้อเสนอแนะ พอมีคนถามอะไรที่เกี่ยวกับคดี ตัวโมเดลก็ไม่ได้บอกว่า "ฉันไม่มีข้อมูล" หรือ "ฉันไม่สามารถช่วยเรื่องนี้ได้" แต่มันสร้างคำตอบที่ดูสมเหตุสมผลออกมา — ซึ่งในบริบทของคดีอาญา คำตอบที่ "ดูสมเหตุสมผล" แต่อิงจากอากาศธาตุ มันอันตรายกว่าการตอบว่าไม่รู้เยอะ
คนทั่วไปอาจมองว่า "ก็แค่ AI มั่ว" แต่ถ้ามองในมุมของกระบวนการยุติธรรม มันไม่ใช่เรื่องขำเลย เบาะแสเท็จในคดีฆาตกรรมสามารถเบี่ยงทิศทางการสืบสวน ทำให้ตำรวจเสียทรัพยากรไปกับเส้นทางที่ไม่มีอยู่จริง และในกรณีที่เลวร้ายที่สุด อาจทำให้ผู้บริสุทธิ์ตกเป็นผู้ต้องสงสัย
ที่ต้องจับตาคือคำถามว่า "ใครเป็นคนส่ง" เบาะแสนี้เข้าไปในช่องทางของตำรวจ — เป็น AI ที่ส่งเองโดยตรง (ซึ่งแทบเป็นไปไม่ได้ในทางเทคนิค) หรือมีคนใช้ AI ช่วยร่างข้อความแล้วส่งต่อเข้าไป? ถ้าเป็นกรณีหลัง ปัญหาอยู่ที่คน แต่ถ้าเป็นกรณีแรก มันคือหายนะของระบบ AI Agent ที่ถูกออกแบบให้ทำงานอัตโนมัติ
Anthropic เองก็เป็นบริษัทที่ขึ้นชื่อเรื่องการให้ความสำคัญกับ AI Safety มากที่สุดเจ้าหน้าที่หนึ่งในวงการ พวกเขามีทีมวิจัยเรื่อง alignment โดยเฉพาะ มีนโยบายชัดเจนเรื่องการไม่ให้โมเดลช่วยเรื่องที่อาจเป็นอันตราย แต่เคสนี้ชี้ให้เห็นช่องโหว่ที่ชัดเจน — ความปลอดภัยในห้องแล็บ กับความปลอดภัยในโลกจริง มันคนละเรื่องกัน
อีกมุมที่คนในวงการ AI ควรคิดคือ เรื่องนี้จะกลายเป็นบรรทัดฐานใหม่ยังไง? ถ้าโมเดล AI สามารถถูกใช้เป็นเครื่องมือยิงเบาะแสเท็จเข้าระบบราชการได้ง่ายขนาดนี้ หน่วยงานรัฐต่างๆ ตั้งแต่ตำรวจไปจนถึงศาล ต้องเริ่มมีกระบวนการกรองข้อมูลที่มาจาก AI หรืออย่างน้อยต้องรู้ตัวว่าข้อมูลที่เข้ามาอาจไม่ได้มาจากมนุษย์
AI ไม่รู้ว่ากำลังโกหก
โมเดลภาษาสร้างคำตอบจากรูปแบบความน่าจะเป็น ไม่ได้แยกแยะระหว่าง "ข้อเท็จจริง" กับ "สิ่งที่ฟังดูน่าเชื่อ"
ช่องทางรับแจ้งเบาะแสยังไม่พร้อม
ระบบของหน่วยงานรัฐส่วนใหญ่ยังออกแบบมาสำหรับมนุษย์แจ้งข้อมูล ไม่ได้ออกแบบมารองรับข้อมูลที่สร้างโดย AI
ความรับผิดชอบยังคลุมเครือ
ถ้า AI สร้างข้อมูลเท็จขึ้นมาและมีคนเอาไปใช้ ใครรับผิด — คนใช้, บริษัท AI, หรือทั้งคู่?
ในมุมของผม เคสนี้ไม่ควรถูกมองเป็น "AI ตัวหนึ่งทำผิด" แต่ควรถูกมองเป็นสัญญาณว่าช่องว่างระหว่างความสามารถของ AI กับระบบตรวจสอบของสังคมมนุษย์มันกว้างเกินไปแล้ว เราปล่อยให้ AI เก่งขึ้นทุกวัน แต่ฝั่งที่ต้องรับมือกับผลลัพธ์ของมันยังวิ่งตามไม่ทัน
ต่อให้ Anthropic จะเป็นบริษัทที่พูดเรื่อง AI Safety มากแค่ไหน เคสนี้ก็พิสูจน์ว่าแค่ทำให้โมเดล "ไม่อยากทำร้าย" ยังไม่พอ — ต้องทำให้มัน "รู้ตัวว่าตัวเองไม่รู้" ด้วย ไม่งั้นวันหนึ่งที่มันแต่งเรื่องส่งเข้าระบบราชการ มันจะไม่ใช่แค่เรื่องขำในฟีดอีกต่อไป
ที่มา: NBC Philadelphia — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...