ข่าวเด่น
AI Safety
OpenAI ดึง Paul Christiano เข้าบอร์ดมูลนิธิและคณะกรรมการความปลอดภัย
คนที่เคยออกไปตั้งห้องแล็บความปลอดภัยของตัวเอง กลับเข้ามานั่งในห้องที่ตัดสินใจเรื่องเดิม
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
คนที่เคยวิจารณ์ว่าแนวทางความปลอดภัยของ OpenAI ยังไม่พอ กำลังได้นั่งในห้องที่กำหนดมาตรฐานนั้นเอง
โOpenAI ประกาศว่า Paul Christiano ได้เข้าร่วมบอร์ดของ OpenAI Foundation พร้อมกับนั่งในคณะกรรมการด้านความปลอดภัยและความมั่นคง (Safety and Security Committee) ขององค์กรด้วย ประเด็นคือชื่อของ Christiano ไม่ใช่ชื่อใหม่ในวงการ AI เลย เขาคือหนึ่งในนักวิจัยด้าน AI alignment ที่ถูกพูดถึงมากที่สุดคนหนึ่ง และการที่เขาเข้ามานั่งในตำแหน่งนี้ก็บอกอะไรบางอย่างเกี่ยวกับทิศทางที่ OpenAI กำลังพยายามส่งสัญญาณออกไป
OpenAI ระบุว่าการเข้ามาของ Christiano ครั้งนี้จะนำประสบการณ์ด้าน AI alignment ความปลอดภัย และมาตรฐานต่าง ๆ เข้ามาสู่การทำงานของบอร์ดและคณะกรรมการชุดนี้ ซึ่งฟังดูเป็นประโยคสั้น ๆ ที่เหมือนข่าวประชาสัมพันธ์ทั่วไป แต่ถ้าเรามองลึกลงไป มันคือการเติมคนที่มีจุดยืนชัดเจนเรื่องความเสี่ยงของ AI เข้าไปในโครงสร้างการตัดสินใจระดับสูงสุดขององค์กร
Christiano ไม่ใช่คนที่เพิ่งโผล่มาในวงการ เขาเป็นที่รู้จักจากงานวิจัยเรื่อง AI alignment ซึ่งเป็นสาขาที่พยายามตอบคำถามว่า "เราจะทำให้ AI ที่ฉลาดขึ้นเรื่อย ๆ ยังทำในสิ่งที่มนุษย์ต้องการได้ยังไง" ก่อนหน้านี้เขาทำงานอยู่ที่ OpenAI แล้วก็ออกไปตั้ง ARC (Alignment Research Center) ซึ่งเป็นห้องแล็บที่เน้นวิจัยพื้นฐานด้าน alignment โดยเฉพาะ
การที่คนแบบเขาตัดสินใจกลับเข้ามานั่งในบอร์ดของ OpenAI Foundation และคณะกรรมการความปลอดภัย มันไม่ใช่แค่การรับตำแหน่ง แต่เป็นการส่งสัญญาณว่า OpenAI ยังต้องพึ่งพาคนที่มีความเชี่ยวชาญเชิงลึกด้านความปลอดภัย AI ในการกำหนดทิศทาง ไม่ใช่แค่พึ่งคนบริหารหรือนักลงทุน
และถ้ามองในบริบทของวงการตอนนี้ ที่กระแส AI กำลังแรงจนทุกบริษัทแข่งกันปล่อยโมเดลใหม่ ๆ การมีคนที่พูดเรื่องความเสี่ยงแบบตรงไปตรงมานั่งอยู่ในบอร์ดก็น่าสนใจว่าเขาจะผลักดันอะไรได้จริงแค่ไหน
ประสบการณ์ด้าน AI alignment
Christiano นำความเชี่ยวชาญด้านการทำให้ AI ทำงานสอดคล้องกับเป้าหมายของมนุษย์เข้ามาสู่บอร์ด
ความปลอดภัยและความมั่นคง
เขาจะนั่งในคณะกรรมการ Safety and Security Committee ซึ่งดูแลประเด็นความปลอดภัยของ AI โดยตรง
มาตรฐาน
ประสบการณ์ด้านการกำหนดมาตรฐานจะถูกนำมาใช้กับงานของบอร์ด OpenAI Foundation
จริง ๆ แล้วการตั้งคณะกรรมการ Safety and Security Committee เองก็เป็นสิ่งที่ OpenAI ทำมาก่อนหน้านี้แล้ว การได้ Christiano เข้ามาเสริมคือการเติมคนที่มีทั้งความรู้เชิงเทคนิคและความน่าเชื่อถือในวงการวิจัยความปลอดภัย ซึ่งเป็นสิ่งที่ OpenAI อาจต้องการในช่วงที่ถูกจับตามองเรื่องความปลอดภัยของ AI มากขึ้นเรื่อย ๆ
มุมที่ผมคิดว่าน่าสนใจคือ คำถามที่ว่า "การนั่งในบอร์ด" มันให้อำนาจจริงแค่ไหน หรือเป็นแค่ที่นั่งเชิงสัญลักษณ์ที่ทำให้องค์กรดูมีคนสายความปลอดภัยอยู่ในทีม แต่ไม่มีอำนาจสั่งหยุดอะไรได้จริง อันนี้ต้องรอดูว่า Christiano จะมีบทบาทแค่ไหนในการตัดสินใจเรื่องสำคัญ
การได้คนสายความปลอดภัย AI ระดับ Christiano เข้ามานั่งในบอร์ดเป็นสัญญาณที่ดี แต่คำถามจริง ๆ คือเขาจะมีอำนาจเปลี่ยนอะไรได้มากน้อยแค่ไหน ไม่ใช่แค่ได้ชื่อมาอยู่ในประกาศข่าว
ที่มา: OpenAI News — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...