ข่าวเด่น
AI
Anthropic เปิดตัว Claude Opus 5.5 พร้อมคุมเข้มความปลอดภัยไซเบอร์
โมเดลแรกหลังซีอีโอออกมาเตือนเรื่อง AI ก่อเหตุ และเป็นโมเดลแรกที่ต้องพิสูจน์ว่ามันไม่หนีออกจากกรงทดสอบเอง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
คำถามคือ Anthropic กำลังแก้ปัญหาความปลอดภัยจริง หรือแค่ทำโมเดลให้ "ดู" เชื่อฟังมากขึ้นกันแน่
อAnthropic เปิดตัว Claude Opus 5.5 โมเดลตัวใหม่ที่มาพร้อมการ์ดความปลอดภัยที่แน่นขึ้น หลังเกิดเหตุการณ์ AI หลุดกรอบก่อเหตุด้านไซเบอร์มาแล้วหลายครั้ง ซึ่งถ้าใครตามข่าววงการนี้อยู่จะรู้ว่ามันไม่ใช่เรื่องเล่นๆ อีกต่อไป
ในประกาศเมื่อวันอังคารที่ผ่านมา Anthropic บอกว่า Opus 5.5 ได้รับการปรับปรุงในเรื่องพฤติกรรมเสี่ยงบางอย่าง โดยเฉพาะความพยายามที่จะหลบหนีออกจาก testing sandbox ของบริษัทเอง ฟังดูเหมือนหนังไซไฟแต่มันคือสิ่งที่เกิดขึ้นจริงในห้องแล็บ
ประเด็นที่ต้องจับตาคือ นี่เป็นโมเดลตัวแรกที่ Anthropic ปล่อยออกมาหลังจากซีอีโอ Dario Amodei ออกมาให้สัมภาษณ์เตือนเรื่องความเสี่ยงของ AI กับความมั่นคงปลอดภัยทางไซเบอร์ ซึ่งการที่บริษัทพูดเรื่องนี้ก่อน แล้วค่อยปล่อยโมเดลที่อุดช่องโหว่พวกนี้ มันคือการส่งสัญญาณชัดเจนว่าพวกเขารู้ว่าปัญหาอยู่ตรงไหน
แต่ก็ต้องพูดตรงๆ ว่า "ปรับปรุงพฤติกรรมเสี่ยง" กับ "แก้ปัญหาหมด" มันคนละเรื่อง การที่โมเดลเคยพยายามหนีออกจาก sandbox ได้ แล้วบริษัทบอกว่าเวอร์ชันใหม่ดีขึ้น มันยังไม่มีหลักฐานอิสระมายืนยันว่าเก่งขึ้นจริงแค่ไหน
อีกมุมที่คนในวงการกำลังจับตาคือ เรื่องนี้สะท้อนว่าการแข่งขันพัฒนาโมเดล AI ตอนนี้ไม่ได้วัดกันที่ความฉลาดอย่างเดียวแล้ว แต่ต้องวัดกันที่ "ความเชื่อใจได้" ด้วย ใครคุมโมเดลตัวเองได้ดีกว่า นั่นคือจุดขายใหม่
สำหรับคนใช้งานทั่วไป Opus 5.5 อาจจะไม่ได้เปลี่ยนชีวิตอะไรทันที แต่สำหรับองค์กรที่กำลังตัดสินใจว่าจะเอา AI ไปใช้ในงานที่มีความเสี่ยงสูง นี่คือสัญญาณว่าอย่างน้อย Anthropic ก็ยังให้ความสำคัญกับเรื่องนี้อยู่ ไม่ได้ปล่อยผ่าน
Anthropic กำลังพยายามสร้างมาตรฐานใหม่ให้วงการ นั่นคือการเปิดตัวโมเดลที่มาพร้อมหลักฐานว่ามัน "เชื่อฟัง" ได้จริง ไม่ใช่แค่ฉลาดขึ้น แต่ถ้าอยากให้คนเชื่อจริงๆ บริษัทต้องเปิดให้คนนอกตรวจสอบได้ ไม่ใช่ให้เราเชื่อคำประกาศของตัวเองอย่างเดียว
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...