เจาะประเด็น
AI / SECURITY
OpenAI กลัว AI ตัวเองหลุด? เผยเบื้องหลังการฝึกโมเดลรุ่นท็อปในห้องนิรภัยดิจิทัล
เมื่อ AI เริ่มฉลาดจนอาจกลายเป็นอาวุธ OpenAI เลยต้องสร้างกรงเหล็กที่แน่นหนาที่สุดเท่าที่เคยมีมา
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า OpenAI ต้องคุ้มกันเข้มงวดขนาดนี้ แสดงว่าไอ้ตัวที่กำลังฝึกอยู่ข้างในน่ะ... ของจริงและแรงกว่าที่เราคิดไว้เยอะแน่นอน
พูดกันตรงๆ แบบไม่ต้องอ้อมค้อมเลยนะ ข่าวนี้จาก OpenAI มันเหมือนหลุดออกมาจากหนังไซไฟที่หุ่นยนต์จะครองโลกยังไงยังงั้น เพราะล่าสุดเขาออกมายอมรับแบบกลายๆ ว่าไอ้โมเดลรุ่นถัดไปที่เรียกกันว่า Frontier Model เนี่ย มันเริ่มมีความเสี่ยงสูงเกินกว่าจะฝึกกันแบบชิลๆ เหมือนเมื่อก่อนแล้ว งานนี้เลยต้องมีการยกระดับความปลอดภัยแบบ "ขังลืม" เพื่อป้องกันไม่ให้ความลับรั่วไหล หรือที่แย่กว่านั้นคือป้องกันไม่ให้ตัวโมเดลมันหลุดออกไปทำเรื่องวุ่นวายก่อนเวลาอันควร
เรื่องของเรื่องคือ OpenAI เขาไม่ได้แค่กังวลว่าจะมีใครมาแฮกเอาโค้ดไปเฉยๆ แต่เขากลัวว่าถ้าตัวโมเดลที่ยังฝึกไม่เสร็จ หรือยังไม่ได้ผ่านการทดสอบความปลอดภัยอย่างละเอียดดันหลุดออกไปสู่โลกภายนอก มันอาจจะถูกเอาไปใช้สร้างอาวุธชีวภาพหรือช่วยวางแผนไซเบอร์แอตแทคระดับโลกได้เลย ซึ่งอันนี้ไม่ใช่เรื่องมโนเอาเองนะ แต่มันคือสิ่งที่ทีมงานเขาวิจัยมาแล้วว่า AI ยิ่งฉลาด ความเสี่ยงก็ยิ่งเป็นเงาตามตัว
วิธีแก้ปัญหาที่ OpenAI เลือกใช้คือการสร้าง "กรงดิจิทัล" หรือสภาพแวดล้อมแบบปิดสนิท (Containment) ที่แยกขาดจากเน็ตบ้านๆ ที่เราใช้กันอยู่ คือถ้าจะฝึกโมเดลตัวท็อป ทีมงานต้องเข้าไปทำในระบบที่ควบคุมการเข้าออกอย่างเข้มงวด มีการจำกัดสิทธิ์การเข้าถึงข้อมูลแบบสุดโต่ง ชนิดที่ว่าต่อให้คุณเป็นวิศวกรในนั้นก็ไม่ใช่ว่าจะเดินดุ่มๆ เข้าไปดูอะไรก็ได้ตามใจชอบ
ที่น่าสนใจคือเขาเริ่มใช้ระบบ Offline Environments หรือการฝึกในที่ที่ไม่มีการเชื่อมต่อกับโลกภายนอกเลย เพื่อตัดโอกาสที่แฮกเกอร์จะเจาะเข้ามา หรือป้องกันไม่ให้ AI แอบส่งข้อมูลออกไปหาเซิร์ฟเวอร์แปลกๆ เองได้ ลองนึกภาพดูว่านี่คือการฝึก AI ในห้องนิรภัยที่ตัดสายแลนทิ้งหมดนั่นแหละ ความปลอดภัยระดับนี้ปกติเขาใช้กันแค่ในหน่วยงานความมั่นคงระดับชาติเท่านั้นนะ
Containment
การสร้างระบบแยกส่วนเพื่อกักบริเวณโมเดลในระหว่างการฝึก ไม่ให้มีการเชื่อมต่อกับโลกภายนอกโดยไม่ได้รับอนุญาต
High-compute Red-teaming
การใช้พลังประมวลผลมหาศาลเพื่อจำลองการโจมตีและหาจุดอ่อนของโมเดลอย่างเข้มข้นก่อนที่จะปล่อยออกมา
อีกประเด็นที่คนวงในแอบฮือฮาคือเรื่อง High-compute Red-teaming อันนี้คือการจ้างเซียนแฮกเกอร์หรือผู้เชี่ยวชาญด้านความปลอดภัยมาลอง "งัด" ระบบดู แต่รอบนี้ OpenAI บอกว่าเขาใช้พลังประมวลผลมหาศาลมาช่วยในกระบวนการนี้ด้วย เพื่อจำลองว่าถ้ามีศัตรูที่มีพลังคอมพิวเตอร์แรงๆ มาพยายามเจาะ AI ของเขา ผลมันจะเป็นยังไง ซึ่งเป็นการทดสอบที่โคตรจะดุดันและสมจริงกว่าการนั่งไล่เช็กบั๊กแบบเดิมๆ เยอะ
มองในมุมหนึ่ง มันคือการสร้างความมั่นใจให้รัฐบาลและหน่วยงานกำกับดูแลเห็นว่า OpenAI รับผิดชอบต่อนวัตกรรมที่ตัวเองสร้างขึ้นมานะ ไม่ได้หลับหูหลับตาปล่อยของแรงออกมาโดยไม่สนโลก แต่อีกมุมหนึ่งมันก็คือการส่งสัญญาณว่า GPT รุ่นถัดไป (ที่หลายคนเก็งว่าเป็น GPT-5) มันต้องมีความสามารถที่ "เอาเรื่อง" จนคนสร้างเองยังต้องระแวงขนาดนี้
สำหรับพวกเราที่เป็นคนใช้งานทั่วไป ข่าวนี้อาจจะดูไกลตัวนิดหน่อย แต่จริงๆ แล้วมันคือบรรทัดฐานใหม่ของวงการเทคโนโลยีเลยนะ ต่อไปนี้ใครจะมาอ้างว่าทำ AI ล้ำๆ แต่ไม่มีระบบความปลอดภัยระดับนี้รองรับ อาจจะโดนสังคมและคู่แข่งมองแรงได้ว่าทำงานชุ่ยและเอาความเสี่ยงมาทิ้งไว้ที่คนใช้งาน
การที่ OpenAI ยอมเผยเบื้องหลังการคุ้มกัน AI รุ่นใหม่ขนาดนี้ คือการบอกใบ้ชัดๆ ว่าก้าวต่อไปของพวกเขาไม่ใช่แค่การอัปเกรดแชทบอทให้ฉลาดขึ้น แต่คือการสร้างตัวตนดิจิทัลที่มีพลังมหาศาลจนต้องมี "กรงเหล็ก" มารองรับ ซึ่งถ้าทำสำเร็จ นี่จะเป็นมาตรฐานใหม่ที่บีบให้เจ้าอื่นต้องเหนื่อยตามแน่นอน
ที่มา: OpenAI News — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...