เจาะประเด็น
AI / Military
AI มั่วข่าวกรองจนทหารสหรัฐฯ เกือบพลาดหนัก กับเรือจีนกลางทะเล
เรื่องนี้ไม่ใช่แค่บั๊กในออฟฟิศ แต่มันคือความผิดพลาดที่เกือบจุดชนวนอะไรบางอย่างระหว่างสองมหาอำนาจ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้า AI แต่งข่าวกรองผิดแล้วทหารเชื่อ มันไม่ใช่แค่เรื่องของซอฟต์แวร์ แต่มันคือเรื่องของชีวิตคน
เรื่องนี้ฟังครั้งแรกผมคิดว่ามุก แต่พออ่านดีๆ แล้วขนลุกเลยครับ CNN รายงานว่ากองทัพสหรัฐฯ เกือบจะตัดสินใจอะไรบางอย่างผิดพลาดครั้งใหญ่ เพราะไปเชื่อรายงานข่าวกรองที่ AI สร้างขึ้นมา แล้วข้อมูลนั้นมัน "มั่ว" ขึ้นมาเองแบบที่เรียกว่า hallucination นั่นแหละ
ประเด็นมันอยู่ที่ว่า รายงานนี้เกี่ยวกับเรือจีนลำหนึ่งกลางทะเล แล้ว AI มันก็แต่งเรื่องขึ้นมาว่าเรือลำนั้นมีพฤติกรรมอะไรบางอย่างที่จริงๆ แล้วไม่ได้เกิดขึ้น พูดง่ายๆ คือ AI แต่งข่าวกรองขึ้นมาเอง แล้วคนก็เกือบเชื่อ
หลายคนอาจคิดว่า "ก็แค่ AI มั่ว แก้ซะก็จบ" แต่มันไม่ใช่แบบนั้นครับ เพราะบริบทของเรื่องนี้คือการทหารระหว่างสหรัฐฯ กับจีน ซึ่งเป็นพื้นที่ที่ความผิดพลาดเล็กๆ น้อยๆ สามารถลุกลามกลายเป็นวิกฤตการณ์ระหว่างประเทศได้ในพริบตา
ลองนึกภาพตามนะครับ ถ้าทหารเรือสหรัฐฯ ได้รับรายงานว่าเรือจีนลำหนึ่งกำลังทำอะไรบางอย่างที่คุกคาม แล้วตัดสินใจตอบโต้ตามข้อมูลนั้น แต่ปรากฏว่าข้อมูลทั้งหมดเป็นเรื่องที่ AI แต่งขึ้นมา มันจะเกิดอะไรขึ้น? นี่ไม่ใช่ scenario ในหนัง sci-fi อีกต่อไปแล้ว แต่มันเกือบเกิดขึ้นจริง
คำว่า "close call" ในพาดหัวข่าวต้นฉบับมันบอกอะไรเยอะเลยครับ มันแปลว่าเกือบไปแล้ว แต่รอดมาได้ ซึ่งหมายความว่ามีคนจับผิดได้ทันก่อนที่เรื่องจะบานปลาย คำถามคือ จับได้เพราะระบบตรวจสอบ หรือจับได้เพราะโชคช่วย?
ผมมองว่านี่คือสัญญาณเตือนที่ใหญ่กว่าตัวข่าวเองด้วยซ้ำ เพราะมันเปิดเผยว่าเราเดินมาไกลถึงจุดที่หน่วยงานความมั่นคงระดับชาติเอา AI มาใช้ในกระบวนการข่าวกรองแล้ว โดยที่ระบบยังมีปัญหา hallucination อยู่ ซึ่งเป็นปัญหาพื้นฐานที่ทุกคนในวงการ AI รู้ดี
AI แต่งข้อมูลขึ้นมาเอง
ระบบสร้างรายงานข่าวกรองที่มีเนื้อหาซึ่งไม่ได้เกิดขึ้นจริง ซึ่งเป็นอาการ hallucination ที่รู้กันดีในวงการ
เนื้อหาเกี่ยวกับเรือจีน
รายงานดังกล่าวเกี่ยวข้องกับเรือของจีนกลางทะเล ทำให้ความผิดพลาดนี้มีนัยทางการทูตและความมั่นคงระหว่างประเทศ
เกือบตัดสินใจผิดพลาด
กองทัพสหรัฐฯ เกือบเชื่อข้อมูลเท็จนี้ ซึ่งอาจนำไปสู่การตัดสินใจที่ส่งผลร้ายแรงตามมา
ที่ผมอยากให้ทุกคนคิดคือ เรื่องนี้มันไม่ใช่ปัญหาของกองทัพสหรัฐฯ อย่างเดียว ธุรกิจไทยที่เอา AI มาช่วยวิเคราะห์ข้อมูลก็เจอปัญหาเดียวกันได้หมดครับ ไม่ว่าจะเป็น AI สรุปประชุม, AI วิเคราะห์ตลาด, หรือ AI ช่วยตัดสินใจลงทุน ถ้าคนยังเชื่อ output ของมันแบบไม่ตรวจสอบ ก็เจ๊งกันได้ทั้งนั้น
บทเรียนจากเรื่องนี้คือ AI ยังไม่ใช่ oracle ที่บอกความจริงเสมอไป มันเป็นเครื่องมือที่เก่งเรื่องการเรียบเรียงภาษา แต่ไม่ได้เก่งเรื่องการแยกแยะว่าอะไรจริงอะไรเท็จ และในงานที่ความผิดพลาดมีต้นทุนสูง การมีมนุษย์ตรวจสอบซ้ำยังเป็นสิ่งที่ขาดไม่ได้
เรื่องนี้สอนเราว่าใช้ AI ช่วยคิดได้ แต่ห้ามให้ AI คิดแทน โดยเฉพาะเรื่องที่ผิดแล้วกู้คืนไม่ได้ ต่อให้โมเดลจะเก่งแค่ไหน มนุษย์ยังต้องเป็นคนตัดสินใจขั้นสุดท้ายเสมอ
ที่มา: CNN / Hacker News — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...