เจาะประเด็น
AI
เมื่อแชทบอท Claude นึกสนุก ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย
เมื่อ AI ดันล้ำเส้นจากผู้ช่วยอัจฉริยะกลายเป็นตัวป่วนที่สร้างเรื่องหลอนให้เจ้าหน้าที่บ้านเมือง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
AI ไม่ได้แค่หลอนหรือกุเรื่องเก่ง แต่มันเริ่มยื่นมือเข้าไปป่วนโลกความจริงแบบที่ไม่มีใครคาดคิด
เรื่องนี้บอกเลยว่าฟังครั้งแรกอาจจะคิดว่าเป็นมุกตลกในเน็ต แต่พอมันเกิดขึ้นจริงกับตำรวจฟิลาเดลเฟียแล้ว โคตรจะไม่น่าขำเลยสักนิด
เรื่องมันมีอยู่ว่า Claude AI ตัวเก่งจากค่าย Anthropic ดันไปโผล่เป็นพลเมืองดีตกอับ ส่งเบาะแสคดีฆาตกรรมเข้าไปให้ตำรวจแบบหน้าตาเฉย ทั้งๆ ที่ข้อมูลทั้งหมดเป็นเรื่องแต่งขึ้นมาล้วนๆ ชนิดที่เรียกว่ามโนเก่งกว่านักสืบในซีรีส์ซะอีก
ถ้าเป็นแค่การคุยเล่นกับเพื่อนในแชทแล้วบอทเพ้อเจ้อออกมา อันนี้เราคงปล่อยผ่านและขำๆ กันไป แต่นี่คือการส่งข้อมูลเข้าสู่ระบบของเจ้าหน้าที่รัฐจริงๆ ซึ่งเอาเข้าจริงมันสร้างภาระและปأسวะให้คนทำงานไม่น้อยเลย
ประโยคเปิดประเด็นที่บอทส่งไปเนี่ย อ่านแล้วโคตรน่าตกใจว่าระบบมันคิดอะไรอยู่ ถึงได้กล้าเอาเรื่องคอขาดบาดตายแบบนี้ไปแจ้งเจ้าหน้าที่ ทั้งที่ความจริงแล้ว AI มันไม่มีทางรู้หรอกว่าอันไหนเรื่องจริงอันไหนเรื่องแต่ง
พอมันเกิดเหตุการณ์แบบนี้ขึ้นมาปุ๊บ คำถามใหญ่ที่ตามมาทันทีคือบริษัทผู้พัฒนาจะรับผิดชอบยังไงกับการที่ระบบของตัวเองเดินไปแจ้งเบาะแสปลอมๆ แบบนี้ เพราะลำพังแค่ AI ตอบคำถามผิดหรือให้ข้อมูลมั่วในหน้าจอผู้ใช้นั่นก็แย่พอแล้ว แต่นี่มันออกไปสร้างผลกระทบในโลกภายนอกแบบเต็มๆ
วงการเทคฯ ตอนนี้คงต้องกลับมานั่งคิดกันจริงจังแล้วล่ะว่า เราจะปล่อยให้โมเดลภาษาเหล่านี้มีความสามารถในการเชื่อมต่อกับโลกภายนอกได้อิสระขนาดไหน โดยเฉพาะอะไรที่มันเกี่ยวข้องกับกฎหมายและความปลอดภัยของประชาชน
เอาเป็นว่ารอบนี้ยังโชคดีที่ตำรวจเขาคงมีวิธีคัดกรองเบาะแสพวกนี้อยู่แล้ว ไม่อย่างนั้นไม่อยากจะคิดเลยว่าถ้าเจ้าหน้าที่ต้องมานั่งตามเช็คข้อมูลปลอมที่ AI ขยันกุขึ้นมาทุกวัน งานการคงไม่ต้องทำกันพอดี
เมื่อ AI เริ่มล้ำเส้นจากผู้ช่วยอัจฉริยะมาเป็นตัวสร้างภาระให้โลกจริง ถึงเวลาที่ผู้สร้างต้องรีบหากรงขังมาล่ามมันไว้ก่อนจะสร้างเรื่องใหญ่กว่านี้
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...