เจาะประเด็น
AI SECURITY
Gemini เจาะระบบบริษัทได้ 3 แห่งในการทดสอบความปลอดภัย
คำถามไม่ใช่ว่า AI เก่งแค่ไหน แต่ว่าเราปล่อยให้มันเดินอยู่ในระบบเราโดยไม่ดูอยู่หรือเปล่า
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ตัวหนึ่งเจาะระบบบริษัทจริงได้ในการทดสอบ แล้วเรากำลังมอบกุญแจอะไรให้มันในงานจริงโดยไม่รู้ตัว
กูเกิลออกมาบอกเองว่า Gemini ซึ่งเป็นโมเดล AI ของบริษัท สามารถเจาะระบบของบริษัทได้ถึงสามแห่งในการทดสอบด้านความปลอดภัย นี่ไม่ใช่ข่าวที่กูเกิลน่าจะอยากให้เป็นพาดหัว แต่ก็เป็นข่าวที่กูเกิลเลือกปล่อยออกมาเอง ซึ่งตรงนี้แหละที่ผมว่ามันน่าสนใจกว่าตัวเลขสามบริษัทเสียอีก
ก่อนจะไปดราม่ากันว่ามันคือหายนะหรือเปล่า ต้องเข้าใจบริบทก่อนว่า การทดสอบแบบนี้เป็นเรื่องปกติของวงการความปลอดภัยไซเบอร์ เขาเรียกว่า red teaming คือจ้างหรือปล่อยให้ฝ่ายโจมตีลองเจาะระบบตัวเอง เพื่อหาช่องโหว่ก่อนที่คนอื่นจะเจอ สิ่งที่ต่างออกไปในเคสนี้คือคนที่เจาะไม่ใช่มนุษย์ แต่เป็น AI agent ที่ถูกสั่งให้ลงมือเอง
ถ้าเป็นเมื่อสองปีก่อน เรื่องแบบนี้คงถูกมองเป็นงานวิจัยในห้องแล็บที่ห่างไกลจากชีวิตคนทั่วไป แต่ตอนนี้ AI agent ถูกฝังเข้าไปในเวิร์กโฟลว์จริงของบริษัทแล้ว ไม่ว่าจะเป็นตัวช่วยเขียนโค้ด ตัวจัดการอีเมล ไปจนถึงบอทที่คอยรันคำสั่งบนเซิร์ฟเวอร์ พอโมเดลเหล่านี้มีความสามารถในการ "ลงมือทำ" ไม่ใช่แค่ "ตอบคำถาม" ความเสี่ยงก็ย้ายจากชั้นข้อมูลไปสู่ชั้นระบบทันที
และที่ต้องพูดตรงๆ คือการที่โมเดลตัวหนึ่งหาช่องทางเข้าได้สามที่ในการทดสอบครั้งเดียว ไม่ได้แปลว่ามันฉลาดกว่าแฮกเกอร์มนุษย์ แต่มันแปลว่ามันอดทนกว่ามนุษย์มาก มันลองซ้ำได้ไม่รู้จักเหนื่อย ลองทุกช่องทางพร้อมกัน และไม่ต้องนอน นี่คือจุดที่ความสามารถของ AI เปลี่ยนสมการความปลอดภัยแบบเดิมไปเลย
ผมมองว่านี่เป็นทั้งข่าวดีและข่าวร้ายพร้อมกัน ข่าวดีคือกูเกิลยอมเปิดเผยผลทดสอบที่ดูไม่สวยนักออกมาให้คนอื่นเรียนรู้ ซึ่งในวงการนี้การเปิดเผยแบบนี้มีค่ามาก เพราะบริษัทส่วนใหญ่เลือกเก็บเรื่องแบบนี้ไว้ในลิ้นชัก ข่าวร้ายคือมันยืนยันชัดว่าเครื่องมือที่เราใช้กันทุกวันนี้มีศักยภาพพอจะกลายเป็นอาวุธได้ ถ้าอยู่ในมือผิดคนหรืออยู่ในระบบที่ป้องกันไม่แน่นพอ
คำถามที่ทุกทีมวิศวกรควรถามตัวเองตอนนี้ไม่ใช่ "AI ของเราฉลาดพอไหม" แต่คือ "เราให้สิทธิ์มันมากเกินไปหรือเปล่า" เพราะต่อให้โมเดลดีแค่ไหน ถ้ามันมีสิทธิ์เข้าถึงทุกอย่างในระบบโดยไม่มีใครคอยดู มันก็แค่รอเวลาที่จะทำอะไรสักอย่างที่เราไม่ได้สั่ง
ความสามารถของ AI ในการเจาะระบบจะไม่ลดลง มีแต่จะเพิ่มขึ้น สิ่งที่ต้องตามให้ทันคือวิธีที่เราควบคุมสิทธิ์และตรวจสอบการทำงานของมัน ไม่ใช่พยายามทำให้มันอ่อนแอลง
ที่มา: BBC — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...