เจาะประเด็น
AI SAFETY
นักวิจัยความปลอดภัย AI ลาออกจาก Anthropic พร้อมคำเตือนว่า AI อาจฆ่ามนุษย์ได้จริง
คนที่ทำงานอยู่เบื้องหลังการสร้าง AI ระดับแนวหน้า กำลังบอกว่าเขาไม่กล้าเดิมพันชีวิตตัวเองกับมันอีกต่อไป
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่สร้าง AI ยังไม่กล้าเดิมพันชีวิตตัวเองกับมัน เราจะกล้าเดิมพันชีวิตเราไปทำไม
นี่ไม่ใช่ข่าวที่คนในวงการ AI อยากตื่นมาเจอเช้าวันหนึ่งเลยจริงๆ เจคอบ ค็อกซอน นักวิจัยด้านความปลอดภัย AI ที่เคยทำงานให้ทั้ง OpenAI และ Anthropic ตัดสินใจลาออกจาก Anthropic แล้วออกมาพูดตรงๆ ว่าเขาไม่มั่นใจว่า AI จะไม่ทำร้ายมนุษย์ และเขาไม่อยากเป็นส่วนหนึ่งของการเดิมพันครั้งนั้นอีกต่อไป
พูดง่ายๆ คือคนที่อยู่ใกล้เครื่องจักรพวกนี้มากที่สุดคนหนึ่ง กำลังบอกว่าเขาไม่กล้าเสี่ยงแล้ว อันนี้คือสัญญาณที่คนในวงการควรหยุดฟัง ไม่ใช่แค่เลื่อนผ่าน
เจคอบ ค็อกซอน ไม่ใช่คนนอกที่ตื่นตูมเรื่อง AI จากพาดหัวข่าว เขาเป็นนักวิจัยที่คลุกคลีอยู่กับงานด้านความปลอดภัย AI ตัวจริง เคยผ่านทั้ง OpenAI และ Anthropic ซึ่งเป็นสองแล็บชั้นนำที่กำลังแข่งกันสร้างโมเดล AI ที่เก่งขึ้นเรื่อยๆ การที่คนแบบนี้ออกมาเตือนว่า AI อาจถึงขั้นคร่าชีวิตมนุษย์ได้ มันมีน้ำหนักกว่าคำเตือนจากนักวิจารณ์ทั่วไปเยอะ เพราะเขารู้ว่าข้างในนั้นมันทำงานยังไง
การลาออกของเขาไม่ใช่แค่เรื่องส่วนตัว แต่สะท้อนความตึงเครียดที่กำลังก่อตัวในวงการ AI โดยเฉพาะในกลุ่มคนที่ทำงานด้านความปลอดภัยโดยตรง พวกเขาคือคนที่ถูกจ้างมาเพื่อคอยเตือนว่า "อย่าไปไกลเกินไป" แต่พอถึงจุดหนึ่ง คำเตือนของพวกเขาอาจไม่มีน้ำหนักพอเท่ากับแรงกดดันทางธุรกิจที่ต้องการเร่งพัฒนาให้เร็วที่สุด
ประเด็นที่ค็อกซอนพูดไม่ได้ใหม่เลยในเชิงแนวคิด — คนในวงการ AI เตือนเรื่องความเสี่ยงที่ AI อาจเป็นภัยต่อมนุษยชาติมาก่อนหน้านี้หลายปีแล้ว แต่สิ่งที่ทำให้เรื่องนี้ต่างออกไปคือ "คนที่พูด" กับ "จังหวะเวลา" เขาเพิ่งออกจากบริษัทที่กำลังสร้าง AI ระดับแนวหน้า และพูดออกมาหลังจากที่เห็นกระบวนการทำงานจากข้างในจริงๆ
มันเลยกลายเป็นคำถามตรงๆ ว่า ถ้าคนที่อยู่ข้างในยังไม่กล้าเดิมพันชีวิตตัวเองกับสิ่งที่ตัวเองกำลังสร้าง แล้วคนข้างนอกอย่างเราที่ใช้ผลิตภัณฑ์พวกนี้ทุกวันจะเอาอะไรไปมั่นใจ
ที่สำคัญ เรื่องนี้ยังตอกย้ำความต่างระหว่าง "ความปลอดภัย AI" ในฐานะคำโฆษณากับในฐานะหลักปฏิบัติจริง บริษัท AI ทุกวันนี้พูดถึงความปลอดภัยกันหมด แต่คำถามคือเมื่อความปลอดภัยขัดกับความเร็วในการปล่อยผลิตภัณฑ์หรือผลตอบแทนทางธุรกิจ อะไรจะชนะ
ผมมองว่านี่คือสัญญาณที่วงการ AI ควรหยุดฟัง ไม่ใช่เพราะค็อกซอนพูดแล้วต้องเชื่อทั้งหมด แต่เพราะการที่คนเก่งๆ ที่ทำงานด้านความปลอดภัยโดยตรงเลือกเดินออกจากบริษัทชั้นนำ มันบอกอะไรบางอย่างเกี่ยวกับวัฒนธรรมภายในที่เรามองจากข้างนอกไม่เห็น
ถ้าบริษัท AI ยังต้องการให้คนเชื่อว่าพวกเขาจริงจังกับความปลอดภัย พวกเขาต้องตอบคำถามให้ได้ว่าทำไมคนที่ถูกจ้างมาทำหน้าที่นี้ถึงรู้สึกว่าไม่มีที่ยืนในองค์กรอีกต่อไป คำตอบนั้นสำคัญกว่าประกาศข่าวประชาสัมพันธ์ใดๆ
คำเตือนจากคนที่อยู่ข้างในไม่ใช่เรื่องที่ควรถูกมองข้าม ถ้าคนที่สร้าง AI ยังไม่กล้าเดิมพันชีวิตตัวเองกับมัน ผู้ใช้อย่างเราก็ควรตั้งคำถามให้มากขึ้น ไม่ใช่แค่กดยอมรับเงื่อนไขการใช้งานแล้วใช้ต่อ
ที่มา: Politico — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...