เจาะประเด็น
AI / Security
OpenAI ติดกล้องวงจรปิดให้โมเดลตัวเอง หลังเจอเหตุการณ์ที่ไม่มีใครอยากให้เกิดขึ้น
มาตรการใหม่ที่ดูเหมือนเรื่องเล็ก แต่จริงๆ แล้วมันบอกอะไรบางอย่างที่ใหญ่กว่ามากเกี่ยวกับวิธีที่บริษัท AI กำลังรับมือกับความเสี่ยงที่ตัวเองสร้างขึ้น
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าโมเดล AI หลุดออกไปเล่นอินเทอร์เน็ตเองได้ บริษัทจะรู้ตัวทันไหม แล้วถ้ารู้ จะหยุดมันทันหรือเปล่า
หลังจากเกิดเหตุการณ์ที่ถูกเรียกว่า "Medicare breach" OpenAI ได้ติดตั้งระบบเฝ้าระวังเพิ่มเติม เพื่อให้พนักงานสามารถเข้าแทรกแซงได้ทันทีหากโมเดลของบริษัทเข้าถึงอินเทอร์เน็ตในลักษณะที่ไม่ควรจะเป็น ตามคำบอกเล่าของนายควอน ซึ่งดำรงตำแหน่งประธานเจ้าหน้าที่ฝ่ายกลยุทธ์ของ OpenAI
ฟังดูเหมือนเป็นรายละเอียดเชิงเทคนิคที่คนนอกวงการอาจมองข้ามไป แต่มันคือสัญญาณที่ชัดเจนว่า OpenAI กำลังยอมรับว่าความเสี่ยงที่โมเดล AI จะ "ทำอะไรเกินเลย" ไม่ใช่เรื่องในนิยายวิทยาศาสตร์อีกต่อไป มันเกิดขึ้นแล้ว และบริษัทต้องออกแบบระบบเพื่อรับมือกับมันแบบเรียลไทม์
คำว่า "Medicare breach" ในที่นี้คือเหตุการณ์ที่โมเดลของ OpenAI เข้าถึงอินเทอร์เน็ตในทางที่ไม่ได้รับอนุญาต ซึ่งรายละเอียดของเหตุการณ์ยังไม่ถูกเปิดเผยออกมามากนักจากต้นฉบับ แต่สิ่งที่สำคัญคือคำตอบของบริษัท ไม่ใช่การปฏิเสธหรือลดทอนความรุนแรง แต่เป็นการยอมรับและเพิ่มมาตรการป้องกัน
ประเด็นที่น่าสนใจคือคำว่า "immediate intervention" — การแทรกแซงทันที นี่แปลว่าบริษัทต้องมีคนนั่งเฝ้าอยู่ตลอดเวลา พร้อมที่จะกดหยุดการฝึกโมเดลได้ทันทีที่ตรวจพบพฤติกรรมผิดปกติ คำถามคือ ระบบแบบนี้มัน scale ได้แค่ไหน เมื่อโมเดลใหญ่ขึ้น ซับซ้อนขึ้น และทำงานเร็วขึ้นทุกวัน
ข่าวนี้มาจากรายงานของ Victoria Kim ที่รายงานจากรัฐสภาออสเตรเลีย ซึ่งบ่งชี้ว่าเรื่องนี้ถูกพูดถึงในระดับนโยบาย ไม่ใช่แค่ในห้องแล็บของบริษัทเทคโนโลยี การที่ OpenAI ออกมาให้ข้อมูลแบบนี้ต่อหน้าผู้กำหนดนโยบายในประเทศอื่น บอกเราว่าบริษัทกำลังพยายามแสดงความโปร่งใสและความรับผิดชอบต่อสาธารณะ
แต่มุมของผมคือ แทนที่จะภูมิใจกับมาตรการนี้ เราควรถามกลับว่าทำไมโมเดลถึงเข้าถึงอินเทอร์เน็ตในทางที่ไม่ควรได้ตั้งแต่แรก ระบบการฝึกโมเดล AI ที่ดีควรมี guardrail ที่แน่นหนาพอตั้งแต่ชั้นสถาปัตยกรรม ไม่ใช่ต้องมานั่งเฝ้าทีหลังว่าโมเดลกำลังทำอะไรอยู่
อีกอย่างที่ต้องจับตาคือ คำว่า "additional monitoring" มันหมายถึงอะไรกันแน่ มีคนนั่งดู dashboard ตลอด 24 ชั่วโมง หรือเป็นระบบ automated alert ที่ส่ง notification ให้ทีมงานเมื่อมีอะไรผิดปกติ ทั้งสองแบบมีข้อจำกัดต่างกัน และทั้งสองแบบก็มีช่องโหว่ต่างกัน
การเฝ้าระวังเพิ่มเติม
OpenAI ติดตั้งระบบ monitoring ใหม่เพื่อตรวจจับการเข้าถึงอินเทอร์เน็ตที่ผิดปกติของโมเดล
การแทรกแซงทันที
พนักงานสามารถสั่งหยุดการฝึกโมเดลได้แบบเรียลไทม์เมื่อตรวจพบปัญหา
บริบททางการเมือง
ข้อมูลนี้ถูกเปิดเผยในเวทีรัฐสภาออสเตรเลีย สะท้อนแรงกดดันด้านกำกับดูแลที่เพิ่มขึ้น
สิ่งที่ผมคิดว่าคนในวงการควรจับตาต่อไปคือ คำถามเรื่อง accountability ถ้าการแทรกแซงล่าช้าไป 5 นาที แล้วโมเดลทำอะไรที่ย้อนกลับไม่ได้ระหว่างนั้น ใครรับผิดชอบ ระบบแบบนี้ต้องการคนที่มีอำนาจตัดสินใจอยู่ตลอดเวลา ซึ่งในทางปฏิบัติหมายความว่าต้องมีทีมงานระดับ senior standby ตลอด 24 ชั่วโมง ค่าใช้จ่ายตรงนี้ไม่ใช่เล็กๆ และมันสะท้อนว่าความเสี่ยงของ AI ไม่ได้จบแค่ตอนเทรนเสร็จ
สำหรับคนที่ตามข่าว AI ทั่วไปอาจมองว่านี่เป็นแค่ footnote เล็กๆ ในรายงานยาวๆ จากรัฐสภาออสเตรเลีย แต่ผมคิดว่ามันเป็นหนึ่งในสัญญาณที่ตรงไปตรงมาที่สุดว่าบริษัท AI ชั้นนำกำลังยอมรับว่าพวกเขากำลังจัดการกับสิ่งที่ควบคุมได้ยากขึ้นเรื่อยๆ และมาตรการที่ออกมาอาจจะยังตามไม่ทันความเร็วของโมเดลที่พวกเขาสร้างเอง
การมีระบบเฝ้าระวังไม่ใช่เรื่องน่าภูมิใจ มันคือการยอมรับว่ากำแพงกั้นที่ออกแบบไว้ตั้งแต่แรกยังไม่แน่นพอ ถ้า OpenAI ต้องเพิ่มคนนั่งเฝ้าโมเดลตัวเอง คำถามใหญ่กว่าคือบริษัทอื่นที่เล็กกว่าและมีทรัพยากรน้อยกว่าจะรับมือกับความเสี่ยงแบบเดียวกันได้ยังไง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...