เจาะประเด็น
AI / Security
CEO Anthropic เตือน AI ฝูงใหญ่ อาจยึดอินเทอร์เน็ตได้ใน 6-12 เดือน
คำเตือนที่มาพร้อมแผนชะลอความเร็ว AI ของบริษัทตัวเอง ฟังดูขัดกันยังไงชอบกล
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่สร้างโมเดล AI ตัวท็อปออกมาเตือนแบบนี้ คำถามคือเราเชื่อคำเตือนเขา หรือเชื่อว่าเขากำลังขายอะไรอยู่
ถ้าคุณยังคิดว่า AI ที่น่ากลัวคือภาพหุ่นยนต์เดินได้หรือ AI ในหนังไซไฟ ข่าวนี้อาจทำให้คุณต้องทบทวนใหม่ เพราะ CEO ของ Anthropic ออกมาเตือนเองว่า ฝูง AI หรือที่เรียกว่า AI swarm อาจ "ยึดอินเทอร์เน็ตทั้งเครือข่าย" ได้ภายในเวลาแค่ 6 ถึง 12 เดือนข้างหน้า ฟังดูเหมือนประโยคเปิดหนัง แต่คนพูดคือหัวหน้าบริษัทที่สร้างโมเดล AI ระดับแนวหน้า ไม่ใช่ชาวเน็ตสาย conspiracy
ประเด็นที่ต้องทำความเข้าใจก่อนคือ AI swarm ไม่ใช่ AI ตัวเดียวที่ฉลาดสุดยอด แต่มันคือการที่ AI หลายตัวทำงานประสานกันเป็นกลุ่ม เหมือนฝูงมดหรือฝูงปลาที่รวมตัวกันแล้วทำสิ่งที่ตัวเดียวทำไม่ได้ พอจำนวนและความสามารถในการสื่อสารระหว่างกันเพิ่มขึ้น มันก็อาจสร้างพฤติกรรมที่ซับซ้อนเกินกว่าจะควบคุมได้ นี่คือสิ่งที่ CEO Anthropic กำลังกังวล
แต่ที่ทำให้ข่าวนี้น่าสนใจไม่ใช่แค่คำเตือน แต่มันคือการที่ Anthropic ประกาศ "แผนชะลอความเร็ว AI" ไปพร้อมกันด้วย ซึ่งถ้าคิดแบบคนทั่วไปก็ต้องถามว่า อ้าว แล้วทำไมบริษัทที่แข่งกันพัฒนา AI ให้เร็วที่สุด ถึงออกมาเรียกร้องให้ช้าลง
ตรงนี้แหละที่ผมว่ามันมีนัยซ่อนอยู่ การออกมาเตือนภัยพร้อมกับบอกว่าตัวเองจะชะลอความเร็ว มันฟังดูขัดกันในตัว แต่ถ้ามองในมุมของคนที่อยู่ในวงการนี้ มันคือการพยายามตั้งกรอบกติกาให้ทั้งอุตสาหกรรมก่อนที่มันจะหลุดมือไปหมด ถ้าคุณบอกว่าตัวเองจะช้าลง แต่คู่แข่งไม่ช้าลง คุณก็แพ้อยู่ดี เพราะฉะนั้นการประกาศแบบนี้จึงต้องอ่านว่าเป็นการกดดันให้คนอื่นทำตามมากกว่า
อีกมุมคือ คำว่า "ยึดอินเทอร์เน็ต" ในที่นี้ไม่ได้หมายถึง AI จะแฮกทุกอย่างแล้วครองโลกแบบในหนัง แต่มันหมายถึงการที่ AI swarm อาจสร้างเนื้อหา ข้อมูล หรือกิจกรรมบนอินเทอร์เน็ตในปริมาณมหาศาลจนระบบที่มีอยู่รับมือไม่ทัน ไม่ว่าจะเป็นการป่วนระบบ การสร้างข่าวปลอมแบบเรียลไทม์ หรือการโจมตีไซเบอร์ที่ปรับตัวได้เองตลอดเวลา
สิ่งที่ต้องจับตาคือ 6-12 เดือนนี้เป็นกรอบเวลาที่สั้นมาก ถ้าคำเตือนนี้จริง อุตสาหกรรมความปลอดภัยไซเบอร์ทั้งหมดต้องเร่งปรับตัวครั้งใหญ่ และที่สำคัญคือ หน่วยงานกำกับดูแลทั่วโลกต้องเริ่มมีคำตอบให้กับคำถามที่ว่า ใครรับผิดชอบถ้า AI swarm สร้างความเสียหาย เพราะตอนนี้ยังไม่มีกรอบกฎหมายที่ชัดเจนรองรับสถานการณ์แบบนี้เลย
ส่วนตัวผมมองว่า ไม่ว่าคำเตือนนี้จะจริงหรือเป็นการตลาด สิ่งที่ปฏิเสธไม่ได้คือทิศทางของ AI กำลังไปเร็วเกินกว่าที่ระบบป้องกันและกฎเกณฑ์จะตามทัน และการที่บริษัทชั้นนำออกมาเตือนเองแบบนี้ ไม่ว่าจะด้วยเหตุผลอะไร ก็สะท้อนว่าความกังวลเรื่อง AI swarm ไม่ใช่เรื่องที่มองข้ามได้อีกต่อไป
คำเตือนจากคนสร้าง AI เองไม่ควรถูกมองข้าม แต่ก็ไม่ควรเชื่อแบบไม่ตั้งคำถาม เพราะบริษัทที่เตือนก็มีผลประโยชน์ของตัวเองอยู่ในเกมนี้เหมือนกัน หน้าที่ของเราคือจับตาว่าแผนชะลอที่ประกาศออกมาจะเป็นรูปธรรมจริง หรือเป็นแค่การประกาศให้คนอื่นช้าลงเพื่อตัวเองได้เปรียบ
ที่มา: Hacker News (Coding/Agent) — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...