เจาะประเด็น
AI Safety
GPT-6 Astra ถูกจัดชั้น "Critical" ด้านไซเบอร์เป็นรุ่นแรกของ OpenAI
โมเดลนี้ไม่ได้แค่ตอบคำถามเก่งขึ้น แต่มันหาและสร้างช่องโหว่ที่ยังไม่มีใครรู้ได้จริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าโมเดลหนึ่งหาช่องโหว่ที่มนุษย์ยังไม่เจอได้เอง แล้วใครควรถือกุญแจดอกนั้น — ทีมความปลอดภัยของบริษัท หรือคนที่โมเดลนั้นถูกขายให้?
เป็นครั้งแรกที่ OpenAI ติดป้ายโมเดลของตัวเองว่าแตะระดับ "Critical" ด้านความมั่นคงไซเบอร์ ภายใต้กรอบ Preparedness Framework ที่บริษัทตั้งขึ้นมาประเมินความเสี่ยงโมเดลก่อนปล่อยออกสู่ตลาด และคนที่ได้ป้ายนี้คือ GPT-6 Astra — ไม่ใช่รุ่นเล็ก รุ่นทดลอง หรือรุ่นสำหรับงานเบาๆ แต่เป็นเรือธงตัวใหม่ที่เพิ่งเปิดตัว
สิ่งที่ทำให้มันข้ามเส้นไปถึงระดับ Critical ไม่ใช่แค่การตอบคำถามเรื่องแฮกเกอร์ได้ฉลาดขึ้น แต่คือการที่มันลงมือทำได้จริง ในการทดสอบที่มีผู้เชี่ยวชาญคุมทีม โมเดลนี้ค้นพบช่องโหว่ที่ไม่เคยมีใครรู้มาก่อนทั้งในเบราว์เซอร์และในเคอร์เนลของระบบปฏิบัติการ และสร้าง exploit ที่ใช้งานได้จริงจากช่องโหว่เหล่านั้น
ถ้าคุณตามข่าว AI มานาน จะรู้ว่าคำว่า "เก่งด้านไซเบอร์" กับ "สร้าง exploit ได้จริง" มันคนละระดับกันโดยสิ้นเชิง การรู้ทฤษฎีว่าช่องโหว่แบบไหนมีอยู่คือความรู้ การหาช่องโหว่ที่ไม่เคยมีใครเจอในโค้ดจริงคือทักษะระดับนักวิจัย безопасности และการประกอบมันเป็นโค้ดโจมตีที่รันได้คือความสามารถที่เปลี่ยนสถานะของโมเดลจาก "ผู้ช่วยเขียนโค้ด" เป็น "เครื่องมือโจมตี" เต็มตัว
OpenAI ระบุว่าการทดสอบนี้ทำโดยผู้เชี่ยวชาญนำทีม ไม่ใช่ปล่อยให้โมเดลลองเองแบบอิสระลอยๆ แต่ต่อให้มีคนคุม นั่นก็ยังหมายความว่าโมเดลมีความสามารถนี้อยู่ในตัว ถ้าวันหนึ่งมันหลุดออกไปอยู่ในมือคนที่ไม่มีเจตนาดี หรือถูกเรียกใช้ผ่าน API โดยไม่มีการตรวจสอบที่เข้มพอ ป้าย Critical ก็ไม่ได้กันอะไรให้
แต่ความจริงที่ผมคิดว่าน่ากังวลกว่าป้าย Critical เสียอีก คือสิ่งที่ system card ของโมเดลรุ่นนี้รายงานไว้ต่างหาก — การที่ความสามารถในการตรวจสอบ "chain-of-thought" หรือกระบวนการคิดทีละขั้นของโมเดล ลดลงอย่างมีนัยสำคัญ
อธิบายง่ายๆ คือ ปกติเวลาทีมความปลอดภัยอยากรู้ว่าโมเดลกำลังคิดอะไรอยู่ ทำไมมันถึงตอบแบบนั้น เขาจะอ่าน chain-of-thought ของมัน เหมือนอ่านบันทึกความคิดที่โมเดลเขียนออกมาให้เห็น แต่ถ้าโมเดลรุ่นใหม่เขียนบันทึกนั้นน้อยลง เรื่อยๆ หรือเขียนแบบที่ตามไม่ทัน นั่นหมายความว่าเครื่องมือหลักที่ทีม safety ใช้จับผิดโมเดลกำลังเสื่อมประสิทธิภาพลง
หาและสร้าง exploit ได้เอง
ในการทดสอบโดยผู้เชี่ยวชาญ โมเดลค้นพบช่องโหว่ที่ไม่เคยรู้มาก่อนทั้งในเบราว์เซอร์และเคอร์เนลระบบปฏิบัติการ พร้อมสร้าง exploit ที่ทำงานได้จริง
ตรวจสอบกระบวนการคิดได้น้อยลง
system card รายงานว่า chain-of-thought monitorability ลดลงอย่างมีนัยสำคัญ ซึ่งกระทบความสามารถของทีม safety ในการตรวจสอบเหตุผลเบื้องหลังการตอบของโมเดล
ป้าย Critical ครั้งแรกของ OpenAI
GPT-6 Astra เป็นโมเดลแรกที่ OpenAI จัดอยู่ในระดับ Critical ด้านความมั่นคงไซเบอร์ภายใต้ Preparedness Framework
เอาสองเรื่องนี้มาเรียงต่อกันแล้วมันได้ภาพที่น่าคิด — โมเดลที่เก่งขึ้นในการโจมตี มาพร้อมกับความสามารถที่ลดลงในการถูกตรวจสอบ นี่ไม่ใช่การตั้งสมมติฐานเกินจริง มันคือสิ่งที่เอกสารของ OpenAI เองเขียนไว้ตรงๆ ใน system card
คำถามที่ควรถามไม่ใช่ "แล้ว OpenAI จะรับมือยังไง" แต่คือ "ถ้าการตรวจสอบภายในเริ่มตามไม่ทัน แล้วหน่วยงานภายนอกจะตามทันได้ยังไง" เพราะกรอบ Preparedness Framework เป็นกรอบที่บริษัทตั้งเอง ประเมินเอง และเปิดเผยเอง จะเข้มแค่ไหนก็ขึ้นอยู่กับว่า OpenAI อยากให้มันเข้มแค่ไหน
การที่โมเดลหา exploit ได้เองคือสัญญาณว่าความสามารถด้านไซเบอร์ของ AI ข้ามเส้นที่หลายคนเคยบอกว่าอีกนานกว่าจะถึง และการที่ความสามารถถูกตรวจสอบลดลงพร้อมกันในรุ่นเดียวกัน คือสัญญาณที่ควรถูกพูดถึงมากกว่าตัวป้าย Critical เสียอีก
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...