เจาะประเด็น
AI / Military
AI มโนว่ามีชิ้นส่วนนิวเคลียร์จีนบนเรือ ทหารสหรัฐฯ เกือบขึ้นไปตรวจของจริง
ระบบ AI แต่งเรื่องขึ้นมาเอง แล้วเกือบพาโลกไปยืนอยู่ตรงปากเหว
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้า AI มโนผิดเรื่องของกินในตู้เย็นยังพอขำได้ แต่ถ้ามันมโนว่ามีนิวเคลียร์บนเรือรบ เรื่องนี้ไม่ตลกแล้ว
เราคิดว่าเราเคยเห็น AI มั่วมาเยอะแล้วใช่ไหม ไม่ว่าจะแต่งข้อมูลอ้างอิงขึ้นมาเอง หรือตอบคำถามผิดแบบมั่นหน้ามาก แต่เรื่องนี้คืออีกระดับหนึ่งเลย เพราะมันไม่ใช่แค่ AI ตอบผิดในแชท แต่มันคือ AI ที่กองทัพสหรัฐฯ ใช้อยู่ในงานจริง แล้วมันก็ "มโน" ว่ามีชิ้นส่วนนิวเคลียร์ของจีนซุกอยู่บนเรือลำหนึ่ง จนทำให้ทหารสหรัฐฯ เกือบจะขึ้นไปตรวจค้นเรือจริงๆ ตามรายงานที่ Ars Technica รายงานไว้
ฟังดูเหมือนฉากในหนังระทึกขวัญ แต่เรื่องนี้เกิดขึ้นจริง และมันสะท้อนปัญหาที่ใหญ่กว่าตัวเหตุการณ์เองเยอะ นั่นคือเราเอาปัญญาประดิษฐ์ที่ยัง "มั่ว" ได้อยู่ไปไว้ในตำแหน่งที่ความผิดพลาดเพียงครั้งเดียวอาจหมายถึงความขัดแย้งระหว่างประเทศ ไม่ใช่แค่รีเฟรชหน้าเว็บใหม่
ตามรายงาน ระบบ AI ที่กองทัพสหรัฐฯ ใช้ในการวิเคราะห์ข่าวกรองได้สร้างข้อมูลขึ้นมาว่ามีชิ้นส่วนที่เกี่ยวข้องกับนิวเคลียร์ของจีนอยู่บนเรือลำหนึ่ง ซึ่งข้อมูลนี้ไม่มีอยู่จริง มันเป็นสิ่งที่เราเรียกกันว่า "hallucination" หรืออาการที่ AI แต่งเรื่องขึ้นมาเองแล้วเชื่อว่าจริง ต่างจากบั๊กทั่วไปตรงที่มันไม่ได้พังหรือค้าง แต่มันให้คำตอบที่ดูสมเหตุสมผลและน่าเชื่อถือ ซึ่งอันตรายกว่ามาก
และผลลัพธ์ก็คือ กระบวนการตัดสินใจของฝ่ายทหารสหรัฐฯ เกือบนำไปสู่การขึ้นตรวจค้นเรือจีนลำนั้น ซึ่งถ้าเกิดขึ้นจริงในน่านน้ำระหว่างประเทศ โดยไม่มีหลักฐานจริงรองรับ มันไม่ใช่แค่เรื่องน่าอาย แต่มันคือการยั่วยุทางทหารที่อาจลุกลามกลายเป็นวิกฤตการทูตได้เลย
ประเด็นที่ผมอยากให้ทุกคนจับตาคือ เรื่องนี้ไม่ใช่เคสโดดๆ ที่เกิดขึ้นเพราะระบบยังใหม่หรือยังไม่เก่งพอ มันคือธรรมชาติพื้นฐานของโมเดลภาษาในปัจจุบัน ที่ยังมีอาการ hallucinate อยู่ไม่ว่าคุณจะใช้โมเดลรุ่นใหม่แค่ไหนก็ตาม
คำถามคือ แล้วทำไมเราถึงเอาของที่ยังเชื่อถือได้ไม่ 100% ไปใช้ตัดสินใจเรื่องที่ stakes สูงที่สุดได้ นี่คือช่องว่างตรงกลางที่อันตรายมาก ระหว่าง "AI ช่วยวิเคราะห์" กับ "AI กลายเป็นคนตัดสินใจ" เพราะเมื่อไหร่ที่มนุษย์เริ่มเชื่อ AI มากกว่าที่ควรจะเชื่อ ความผิดพลาดของ AI ก็จะกลายเป็นความผิดพลาดของมนุษย์ไปด้วยแบบที่แยกไม่ออก
มุมที่น่ากังวลที่สุดในข่าวนี้ไม่ใช่ตัวเหตุการณ์เกือบขึ้นเรือ แต่มันคือประโยคที่ว่า "กองทัพใช้ AI เพิ่มขึ้นเรื่อยๆ" นั่นหมายความว่าเคสแบบนี้จะไม่ใช่ครั้งสุดท้าย และโอกาสที่รอบหน้าจะไม่มีใครจับได้ทันก็สูงขึ้นทุกวัน
การตรวจสอบจากมนุษย์
ประเด็นคือมีคนตรวจสอบข้อมูลที่ AI สร้างขึ้นก่อนนำไปใช้จริงหรือไม่ และตรวจสอบอย่างไร เพราะถ้าคนตรวจแค่ดูว่า AI มั่นใจแค่ไหน มันก็ไม่ต่างจากไม่ตรวจเลย
ขอบเขตการใช้งานในกองทัพ
กองทัพสหรัฐฯ ใช้ AI ในงานไหนบ้าง ตั้งแต่การวิเคราะห์ข่าวกรองไปจนถึงการตัดสินใจทางยุทธศาสตร์ และมีระบบกันชนตรงไหนบ้าง
ความรับผิดชอบเมื่อ AI พลาด
ถ้า AI ให้ข้อมูลผิดแล้วนำไปสู่การตัดสินใจทางทหารที่ผิด ใครรับผิดชอบ ยังไม่มีคำตอบชัดเจนในเรื่องนี้
เรื่องนี้ควรถูกพูดถึงมากกว่าที่เป็นอยู่ เพราะมันไม่ใช่แค่เรื่องเทคนิคของวงการ AI แต่เป็นเรื่องความมั่นคงระหว่างประเทศที่ทุกคนมีส่วนได้ส่วนเสีย
ต่อให้ AI ฉลาดขึ้นแค่ไหน ตราบใดที่มันยัง hallucinate ได้ การปล่อยให้มันตัดสินใจเรื่องสงครามโดยไม่มีคนตรวจสอบอย่างจริงจัง ก็คือการเล่นรัสเซียนรูเล็ตต์ในระดับชาติ และคำถามที่ทุกคนควรถามไม่ใช่ "AI เก่งพอหรือยัง" แต่คือ "เราพร้อมจะรับผิดชอบผลลัพธ์ตอนที่มันพลาดหรือยัง"
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...