เจาะประเด็น
AI / Defense
AI เล็กๆ ในโดรน กำลังตัดสินใจฆ่าด้วยตัวเองกลางสมรภูมิ
สตาร์ทอัพหนุนหลังโดย NATO กำลังเอาโมเดล AI ขนาดจิ๋วไปติดโดรน ให้มันบินหากลุ่มเป้าหมายและโจมตีได้เองแบบไม่ต้องรอคำสั่งจากคน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ตัวเล็กพอจะใส่โดรนได้ และโดรนบินได้เอง คำถามคือ "ใครกดปุ่ม" ยังสำคัญอยู่ไหม
เรื่องนี้ไม่ใช่ข่าว sci-fi อีกต่อไปแล้ว เพราะ Scaleout บริษัทสตาร์ทอัพที่ได้ทุนหนุนจาก NATO กำลังทำของจริง คือเอา AI แบบ decentralized ไปติดตั้งตามฐานทัพและโดรน เพื่อให้โดรนบินสำรวจและระบุเป้าหมายในสนามรบได้ด้วยตัวเอง
จุดที่ต้องหยุดคิดคือคำว่า "โมเดลเล็ก" ครับ ปกติเราชินกับภาพ AI ตัวใหญ่ๆ ที่ต้องพึ่งดาต้าเซ็นเตอร์ ต้องมีเซิร์ฟเวอร์ ต้องมีคลาวด์ แต่แนวคิดนี้กลับกันเลย คือยัดความสามารถในการมองเห็นและตัดสินใจลงไปในอุปกรณ์ขนาดเล็กที่ลอยอยู่กลางอากาศได้เอง
การเอา AI ไปไว้บนโดรนตรงๆ แปลว่ามันไม่ต้องรอสัญญาณจากศูนย์บัญชาการ ไม่ต้องกลัวสัญญาณขาด ไม่ต้องกลัวศัตรูรบกวนการสื่อสาร ตัวโดรนกลายเป็นหน่วยที่คิดเองได้ในระดับหนึ่ง ซึ่งฟังดูฉลาดและมีประสิทธิภาพมากในมุมของฝ่ายทหาร
แต่ในมุมกลับกัน นี่คือการขยับเส้นแบ่งระหว่าง "อาวุธที่คนควบคุม" กับ "อาวุธที่ตัดสินใจเอง" ให้บางลงไปอีกขั้น ต่อให้ระบบจะยังมีคนคอยกำกับอยู่เบื้องหลังก็ตาม แต่พอ AI สามารถ "ระบุและโจมตีเป้าหมาย" ได้เองในสนามรบจริง คำถามเรื่องความรับผิดชอบเมื่อเกิดความผิดพลาดก็จะตามมาทันที
สิ่งที่ Scaleout ทำคือระบบเรียนรู้แบบ decentralized คือให้ AI เรียนรู้และปรับตัวกระจายกันไปตามฐานทัพและอุปกรณ์ต่างๆ ไม่ใช่รวมศูนย์อยู่ที่เดียว ข้อดีในทางทฤษฎีคือระบบทนทานกว่า ถ้าจุดหนึ่งล่ม จุดอื่นยังทำงานต่อได้ และปรับให้เข้ากับสภาพหน้างานได้เร็วขึ้น
สำหรับกองทัพที่กำลังมองหาเทคโนโลยีต้นทุนต่ำแต่ใช้งานได้จริงในสนาม ข้อเสนอนี้ฟังดูน่าสนใจไม่น้อย เพราะโดรนราคาถูกที่คิดเองได้บางส่วน อาจมีค่ามากกว่าโดรนแพงๆ ที่ต้องรอคำสั่งจากคนตลอดเวลา
ประเด็นที่ผมคิดว่าคนในวงการ AI ควรจับตาคือ การที่โมเดลเล็กทำงานบนอุปกรณ์ปลายทางได้ดีขึ้นเรื่อยๆ มันจะไม่ได้จำกัดอยู่แค่โดรนทหาร แต่จะไหลลงมาสู่โดรนพลเรือน หุ่นยนต์ กล้องวงจรปิด และอุปกรณ์ IoT ทั่วไปด้วย
และเมื่อเทคโนโลยีเดียวกันนี้ถูกใช้ได้ทั้งในทางสาธารณะและในทางทหาร คำถามเรื่องกฎเกณฑ์ การกำกับดูแล และจริยธรรมของ AI จึงไม่ใช่เรื่องไกลตัวอีกต่อไป แต่เป็นเรื่องที่ต้องคุยกันตอนนี้ ก่อนที่ของจะถูกใช้งานจริงในวงกว้างไปมากกว่านี้
AI ขนาดเล็กที่ทำงานบนอุปกรณ์ปลายทางไม่ใช่เรื่องอนาคตไกลอีกแล้ว และเมื่อมันถูกใช้ในบริบททางทหารก่อน เราในฐานะสังคมควรเร่งถกเรื่องขอบเขตการตัดสินใจของ AI ให้ชัดเจน ก่อนที่มันจะกลายเป็นเรื่องปกติที่ไม่มีใครหยุดถาม
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...