เจาะประเด็น
AI Ethics
Chief Scientist ของ OpenAI ฟันธง: เร่งสร้าง AI ให้ฉลาดขึ้น คือหนทางป้องกันภัยจาก AI ด้วยกันเอง
คำพูดที่ฟังดูขัดหูคนรักความปลอดภัย แต่ถ้าอ่านให้ลึก มันคือตรรกะที่ไม่ง่ายจะเถียงชนะ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้าคุณคิดว่าการแข่งกันสร้าง AI ที่ฉลาดขึ้นเป็นเรื่องเสี่ยงระเบิดใส่หน้า ลองฟังมุมมองฝั่งคนที่ต้องรับผิดชอบเรื่องนี้ตรงๆ บ้าง ว่าทำไมเขาถึงมองว่ามันคือ "โล่" ไม่ใช่ "ระเบิด"
หลายคนอาจจะเพิ่งเคยได้ยินชื่อ Jakub Pachocki ไม่บ่อยเท่า Sam Altman แต่ตำแหน่ง Chief Scientist ของ OpenAI นี่ไม่ใช่ตำแหน่งตกแต่ง บทความในบล็อกของ Simon Willison พาไปเจอคำพูดของเขาที่น่าสนใจมาก และมันคือท่าทีที่ช่วยอธิบายได้เยอะว่าทำไม OpenAI ถึงเดินหน้าสร้างโมเดลที่ใหญ่ขึ้น ฉลาดขึ้นแบบไม่แคร์เสียงวิพากษ์วิจารณ์เท่าไหร่
ประเด็นของ Pachocki ไม่ได้ซับซ้อนเลย ตรงกันข้าม มันเรียบง่ายจนน่าตกใจ เขาบอกว่าเหตุผลที่แข็งแกร่งที่สุดสำหรับการ "เทรนโมเดลที่ฉลาดขึ้นอย่างรวดเร็ว" ก็คือเราจำเป็นต้องสร้างระบบป้องกันภัยจาก AI ตัวอื่นๆ ที่ไม่ได้มีความรับผิดชอบเหมือนเรา ฟังดูเข้าท่าใช่ไหม? แต่เดี๋ยวก่อน มันมีนัยยะที่ลึกกว่านั้น
ลองนึกภาพตามนะครับ สมมติว่ามีคนบ้าคนหนึ่งสร้าง AI ที่ไม่สนใจอะไรทั้งนั้น แค่ฉลาดล้ำและทำตามเป้าหมายของมันสุดทาง เราจะเอาอะไรไปหยุดมัน? อาวุธธรรมดา? ไม่มีทาง สิ่งเดียวที่จะหยุด AI ที่ฉลาดได้คือ AI ที่ฉลาดกว่าและมี "คุณธรรม" กำกับอยู่ ในเมื่อเราไม่สามารถคาดเดาได้ว่าใครจะสร้างอะไรขึ้นมา การมีแต้มต่อด้านความฉลาดไว้ก่อนมันกลายเป็นเรื่องจำเป็น
ตรงนี้แหละที่ผมว่ามันเป็นเกมหมากฮอสทางความคิดที่แยบยล เพราะฝั่งที่คัดค้านการเร่งพัฒนามักจะพูดว่า "หยุดก่อน เรายังไม่พร้อม เราควรช้าลงเพื่อหาทางควบคุมให้ได้ก่อน" แต่ Pachocki ตอบกลับแบบไม่ทิ้งช่องว่างให้โต้แย้งว่า ถ้าเราช้าลง แล้วคนที่ไม่ได้คิดแบบเราไม่ช้าลงด้วยล่ะ? สิ่งที่เราจะได้ไม่ใช่ความปลอดภัย แต่คือการตกเป็นรองอย่างถาวร และในโลกที่ AI คืออาวุธ การตกเป็นรองคือการแพ้
เขายังพูดถึงสิ่งที่ OpenAI จะโฟกัสในการใช้งานจริง นั่นคือการรักษาความปลอดภัยโครงสร้างพื้นฐาน การปกป้องแบบเรียลไทม์จาก "rogue agents" และที่สำคัญคือการคิดค้นมาตรการป้องกันแบบใหม่ๆ ที่เราไม่เคยมีมาก่อน นี่ไม่ใช่แค่การอัปเดตแพตช์ไวรัส แต่คือการสร้างเกราะป้องกันที่ฉลาดพอจะเอาชนะภัยคุกคามที่ยังไม่เกิดขึ้นด้วยซ้ำ
แต่ที่ทำให้คำพูดนี้ไม่ได้ฟังดูเหมือนคนคลั่งอำนาจ คือท่อนท้ายที่เขากล่าวถึงความรับผิดชอบ Pachocki ไม่ได้บอกว่า "เร่งเครื่องให้สุดแล้วค่อยไปว่ากันทีหลัง" เขาบอกชัดเจนว่าความไม่แน่นอนและความจำเป็นในการสร้างระบบป้องกัน ต้องไม่กลายเป็นข้ออ้างสำหรับความสะเพร่า แนวคิดที่ว่า "ต้องแข่งให้ชนะไม่ว่าจะยังไง" มันฟังดูเพี้ยนมาก ถ้าเราเข้าใจจริงๆ ว่าสิ่งที่เดิมพันอยู่มันสูงแค่ไหน
นี่คือจุดที่ทำให้คำพูดของ Chief Scientist คนนี้มีน้ำหนัก มันคือการเดินเส้นบางๆ ระหว่างความทะเยอทะยานกับความยับยั้งชั่งใจ เขากำลังบอกว่าเราต้องเร็ว แต่ต้องไม่เขลาตอนที่เร็ว สิ่งนี้ฟังดูเหมือนเป็นไปไม่ได้ แต่ในเมื่อเขาคือคนที่นั่งอยู่ตำแหน่งสูงสุดในห้องแล็บที่กำลังสร้างสิ่งนี้ เราคงต้องจับตาดูว่าเขาจะทำได้จริงแค่ไหน มากกว่าที่จะนั่งเถียงว่ามันผิดหรือถูก
สำหรับคนไทยอย่างเราๆ ที่ได้แต่ดูข่าวจากนอกจอ สิ่งนี้สะท้อนให้เห็นว่าเกมนี้ไม่ได้เล่นกันที่ตัวเลขพารามิเตอร์หรือสปีดการเทรนอีกต่อไป แต่มันคือเกมของ "ภูมิรัฐศาสตร์ AI" ที่ใครมีโมเดลฉลาดสุดและไว้ใจได้สุด คนนั้นคือคนที่กำหนดกติกาในโลกอนาคต และที่สำคัญ มันคือการยอมรับว่าเรากำลังเข้าสู่ยุคที่ภัยคุกคามไม่ได้มาจากมนุษย์ด้วยกันเองแล้ว แต่มันมาจากสิ่งที่เราสร้างขึ้น และเราต้องใช้สิ่งที่เราสร้างขึ้นนั่นแหละ มาปกป้องเรา
คำพูดของ Pachocki คือการประกาศเจตนารมณ์อย่างเป็นทางการว่า OpenAI จะไม่หยุดพัฒนาความฉลาด แต่จะเปลี่ยนกรอบการโต้แย้งจาก "เร็วกว่าก็เสี่ยงกว่า" เป็น "ช้ากว่าคือความเสี่ยงที่ยอมรับไม่ได้" ส่วนที่เหลือคือโจทย์ที่เขาต้องพิสูจน์ให้ได้ว่า ความเร็วกับความปลอดภัย มันไปด้วยกันได้จริง ไม่ใช่แค่คำพูดสวยหรู
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...