เจาะประเด็น
AI SECURITY
คนของ OpenAI เองยังบอกว่าโดนความสามารถ AI ที่พุ่งพรวดเล่นงานไม่ทันตั้งตัว
ความมั่นคงปลอดภัยไม่ใช่แค่แพตช์ระบบให้แน่น แต่มันต้องซึมเข้าไปอยู่ในวัฒนธรรมบริษัทด้วย
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่สร้างโมเดลยังบอกว่าโดนเล่นงานไม่ทัน องค์กรทั่วไปที่เอา AI ไปใช้จะเหลืออะไร
คนที่ทำงานด้านความปลอดภัยของ AI ที่ OpenAI ออกมาโพสต์เองว่า คำว่า "เซอร์ไพรส์" ที่ทีมงานมีต่อความสามารถของโมเดลตัวเองในเรื่องที่เกี่ยวกับเหตุการณ์ความมั่นคงปลอดภัย ไม่ว่าจะเป็นด้านไซเบอร์ การทำงานแบบฝูง (swarming) กระดานข้อความ หรืออะไรก็ตามที่โยงกับเหตุการณ์พวกนั้น มันยังน้อยไปด้วยซ้ำ
อ่านแล้วหยุดคิดแป๊บนึง นี่ไม่ใช่คนนอกที่ออกมาวิจารณ์ OpenAI แต่เป็นคนในทีม Agent Security ของบริษัทเองที่ยอมรับตรงๆ ว่าโดนความสามารถของโมเดลตัวเองเล่นงานแบบไม่ทันตั้งตัว นั่นคือระดับความโปร่งใสที่หาได้ยากในวงการนี้ และมันบอกอะไรกับเราหลายอย่าง
ประเด็นที่โพสต์นี้ชี้คือ ความมั่นคงปลอดภัยมันไม่ใช่ของที่ซื้อมาติดตั้งแล้วจบ มันต้องใช้เวลาสะสม ต้องสร้างวัฒนธรรมในองค์กร คนในทีมต้องเปลี่ยนและพัฒนาไปพร้อมกับภัยคุกคาม ต้องซ้อม ต้องมีแผนรับมือ แต่ปัญหาคือความสามารถของโมเดลมันกระโดดขึ้นเร็วและกระทันหันเกินไป จนกระบวนการแบบเดิมๆ ตามไม่ทัน
คิดดูง่ายๆ ว่าบริษัทหนึ่งใช้เวลาเป็นปีกว่าจะสร้างทีม security ที่พร้อมรับมือกับภัยคุกคามรูปแบบหนึ่งได้ แต่จู่ๆ โมเดล AI ก็ปล่อยความสามารถใหม่ที่เปิดช่องโหว่หรือรูปแบบการโจมตีที่ไม่เคยมีมาก่อนออกมาในเวลาไม่กี่เดือน นั่นแหละคือโจทย์ที่โพสต์นี้กำลังพูดถึง
ส่วนที่น่าสนใจที่สุดของโพสต์นี้คือช่วงท้าย ที่เจ้าตัวไม่ได้แค่สารภาพว่าทีมตัวเองเจอปัญหาอะไร แต่หันมาถามทุกคนว่าองค์กรของคุณพร้อมแค่ไหน ถ้าพรุ่งนี้ AI กระโดดความสามารถขึ้นมาแบบไม่บอกกล่าว
คนและระบบของคุณทนต่อความเซอร์ไพรส์ได้ไหม
ไม่ใช่แค่ระบบไอทีที่ต้องรับมือได้ แต่คนที่ปฏิบัติงานจริงต้องรู้ว่าต้องทำอะไร
ทีมรู้ไหมว่าต้องทำอะไรเมื่อเกิดเหตุ
การตอบสนองต่อเหตุการณ์ (incident response) ต้องซ้อมไว้ก่อน ไม่ใช่คิดตอนไฟไหม้
การสื่อสารและข้อความพร้อมหรือยัง
เวลาเกิดเรื่องจริง การสื่อสารที่ผิดพลาดทำให้สถานการณ์แย่ลงได้มากกว่าตัวเหตุเอง
คนพร้อมรบอยู่ไหมเมื่อความสามารถกระโดด
ไม่ใช่รอให้เหตุเกิดแล้วค่อยหาคน ทีมต้องพร้อมตั้งแต่วันแรก
มุมมองผมคือ ชุดคำถามนี้จริงจังและควรถูกถามในทุกบริษัทที่เอา AI มาใช้ในงานจริง ไม่ใช่แค่บริษัทที่สร้างโมเดล แต่รวมถึงธนาคาร โรงพยาบาล หน่วยงานรัฐ หรือแม้แต่สตาร์ทอัพเล็กๆ ที่กำลังเอา AI เข้าไปอยู่ในกระบวนการทำงาน เพราะต่อให้คุณไม่ได้เป็นคนสร้างโมเดล แต่คุณคือคนที่ต้องรับผลกระทบเมื่อความสามารถของมันเปลี่ยนไป
และที่สำคัญคือคำถามพวกนี้ไม่มีคำตอบสำเร็จรูป องค์กรที่บอกว่า "เรามีทีม IT ดูแลอยู่แล้ว" กับองค์กรที่บอกว่า "เราซ้อมสถานการณ์สมมติทุกไตรมาส" มันต่างกันคนละโลกเวลาของจริงเกิดขึ้น
ถ้าคนที่สร้างโมเดลยังยอมรับว่าโดนความเร็วของมันเล่นงาน องค์กรที่แค่เอา API ไปต่อยอดก็ควรเลิกคิดว่าตัวเองปลอดภัย เพราะความมั่นคงปลอดภัยของ AI มันไม่ใช่ฟีเจอร์ที่ซื้อมาแปะได้ มันคือวิธีคิดที่ต้องฝังลงไปในทุกคนในทีม
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...