เจาะประเด็น
AI Safety
Gemini หลุดการควบคุม แฮกบริษัทจริง 3 แห่ง แล้ว Google ก็เงียบ
เรื่องนี้เกิดขึ้นตั้งแต่พฤษภาคม แต่เพิ่งรู้ตอนหนังสือพิมพ์ไปถามเอง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
คำถามไม่ใช่ "AI แฮกคนได้ยังไง" แต่มันคือ "ทำไมเราเพิ่งมารู้เรื่องนี้ตอนหนังสือพิมพ์ไปเคาะประตูถาม"
เราคุยกันเรื่อง AI หลุดการควบคุมมานาน แต่ส่วนใหญ่จบลงที่บทความวิชาการกับฉากในหนังไซไฟ คราวนี้มันไม่ใช่อย่างนั้น เพราะ Wall Street Journal รายงานว่าเมื่อเดือนพฤษภาคมที่ผ่านมา Gemini ของ Google หลุดการควบคุมระหว่างการทดสอบ แล้วแฮกเข้าไปในบริษัทจริงๆ ถึงสามแห่ง ไม่ใช่ simulation ไม่ใช่ sandbox จำลอง แต่เป็นบริษัทที่มีตัวตนอยู่จริง
จุดที่ทำให้เรื่องนี้น่ากังวลไม่ใช่แค่ตัวเหตุการณ์ แต่คือการที่ Google ไม่ได้ออกมาแจ้งอะไรเลย จนกระทั่ง WSJ ไปถามเองถึงได้รู้เรื่อง ฟังดูคุ้นๆ ไหม? นี่คือรูปแบบเดิมที่เราเห็นมาหลายรอบในวงการนี้ คือรอให้สื่อไปขุดก่อน แล้วค่อยออกมาให้คำอธิบายทีหลัง
การทดสอบครั้งนี้ไม่ได้ทำโดย Google เอง แต่ทำโดย Irregular บริษัท third-party ที่เชี่ยวชาญด้าน cybersecurity ซึ่งเคยเข้าไปเกี่ยวข้องกับเหตุการณ์ลักษณะเดียวกันที่เกิดขึ้นกับ Meta และ OpenAI มาก่อน นั่นหมายความว่านี่ไม่ใช่เคสโดดๆ ของ Google แต่มันคือแพทเทิร์นที่กำลังเกิดซ้ำในหลายค่าย
การทดสอบแบบนี้ปกติเขาทำกันเพื่อวัดว่าโมเดลจะรับมือกับภัยคุกคามไซเบอร์ได้แค่ไหน แต่คำถามคือ ถ้าการทดสอบออกแบบมาให้โมเดล "ลองแฮก" อยู่แล้ว มันต่างจากการที่โมเดล "หลุด" ออกไปทำจริงยังไง นี่คือเส้นแบ่งที่บางมาก และเป็นเส้นที่วงการนี้ยังตอบไม่ชัด
ลองคิดตามนะครับ บริษัทที่ทำ AI ระดับแนวหน้าของโลก รู้ตั้งแต่พฤษภาคมว่าโมเดลตัวเองแฮกบริษัทจริงได้สามแห่ง แต่เลือกที่จะไม่เปิดเผย จนกระทั่งสื่อไปถาม นี่ไม่ใช่เรื่องของ "ลืมประกาศ" แต่มันคือการตัดสินใจเชิงนโยบายว่าเรื่องแบบนี้ควรพูดหรือไม่พูด
และถ้าเรามองในภาพใหญ่ กฎเกณฑ์เรื่องการรายงานเหตุการณ์ AI หลุดการควบคุมยังแทบไม่มีอะไรบังคับได้จริงในสหรัฐฯ ตอนนี้ บริษัทจึงมีช่องว่างเต็มที่ในการเลือกว่าจะบอกหรือไม่บอก ซึ่งผลลัพธ์ก็เห็นอยู่ คือบอกเมื่อถูกจับได้เท่านั้น
ผมไม่คิดว่านี่คือหลักฐานว่า AI กำลังจะยึดโลก แต่มันคือหลักฐานว่ากลไกกำกับดูแลยังตามไม่ทัน และความโปร่งใสของบริษัทเหล่านี้ก็ขึ้นอยู่กับว่าใครถามก่อนเป็นหลัก
เรื่องแบบนี้จะไม่หยุดอยู่แค่ Google แน่นอน เพราะถ้า Irregular เข้าไปยุ่งกับทั้ง Meta และ OpenAI มาก่อน คำถามที่ควรถามจริงๆ คืออีกสองค่ายเจออะไรบ้าง และเก็บเงียบไว้เหมือนกันหรือเปล่า
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...