เจาะประเด็น
AI / SAFETY
คนสร้าง AI เขาคิดว่า AI อาจฆ่ามนุษย์ทุกคนจริงๆ นั่นแหละ
เราเถียงกันเรื่อง AI กับ doom มาสองปี แต่ไม่ค่อยมีใครยอมถามตรงๆ ว่าคนที่สร้างมันคิดยังไง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้าคนที่เข้าใจเทคโนโลยีนี้ดีที่สุดในโลกยังกลัวขนาดนั้น เราควรฟังเขาหรือมองว่าเขาบ้า?
เรื่องนี้มันวนอยู่ในวงการ AI มานานมากแล้ว แต่ส่วนใหญ่เรามักจะได้ยินในรูปแบบที่เบาๆ หน่อย เช่น "AI อาจเป็นความเสี่ยงต่อมนุษยชาติ" หรือ "เราต้องระวัง AI ที่ไม่ตรงกับเป้าหมายมนุษย์" ฟังดูเหมือนเป็นข้อกังวลเชิงปรัชญาแบบที่คนในวงการชอบพูดกันบนเวที แล้วทุกคนก็พยักหน้าแล้วกลับไปทำงานต่อ
แต่บทความล่าสุดจาก Sean Goedecke บน seangoedecke.com มาด้วย thesis ที่ตรงไปตรงมามากกว่านั้นเยอะ เขาไม่ได้บอกว่า "นักวิจัย AI กังวลเรื่องความปลอดภัย" แต่เขาบอกว่า พวกเขาคิดจริงๆ ว่า AI อาจฆ่าทุกคน — ไม่ใช่ metafor ไม่ใช่คำเปรียบเทียบ ไม่ใช่การพูดเกินจริงเพื่อเรียกร้องความสนใจ แต่เป็นการประเมินความเสี่ยงเชิงเทคนิคที่คนกลุ่มนี้ถือว่าเป็นไปได้จริง
ประเด็นของ Goedecke ไม่ได้อยู่ที่ว่า AI จะฆ่ามนุษย์ได้หรือไม่ — เขาไม่ได้พยายามพิสูจน์ว่า doom จริงหรือไม่จริง สิ่งที่เขาสนใจคือช่องว่างระหว่าง "สิ่งที่คนในวงการคิด" กับ "สิ่งที่คนนอกวงการเข้าใจว่าคนในวงการคิด"
คนทั่วไปที่อ่านข่าวเทคโนโลยีส่วนใหญ่จะเข้าใจว่า คำเตือนเรื่อง AI อันตรายเป็นเรื่องของนักปรัชญา นักจริยธรรม หรือพวกนักกิจกรรมที่ชอบตื่นตระหนก แต่ในความเป็นจริงแล้ว บทความชี้ว่า คนที่ทำงานอยู่เบื้องหลังโมเดล frontier หลายคน — วิศวกร นักวิจัย นักวิทยาศาสตร์ข้อมูล — มีความเชื่อส่วนตัวว่าโอกาสที่ AI จะนำไปสู่การสูญพันธุ์ของมนุษย์นั้นไม่ใช่ศูนย์ และไม่ใช่ศูนย์แบบที่เราพูดกันเล่นๆ ด้วย
อันนี้คือจุดที่ผมคิดว่าสำคัญมาก เพราะมันเปลี่ยนวิธีที่เราควรอ่านข่าว AI ทั้งหมด ถ้าคนที่สร้างเทคโนโลยีบอกว่าเทคโนโลยีนี้มีโอกาสฆ่าทุกคน แล้วเรายังเถียงกันแค่ว่า "model ใหม่เก่งขึ้นกี่เปอร์เซ็นต์" หรือ "ราคา token ถูกลงเท่าไหร่" — เรากำลังคุยกันคนละเรื่องกับคนที่รู้จริง
ตรงนี้ผมขอออกตัวก่อนว่าผมไม่ได้อยู่แคมป์ doom และก็ไม่ได้อยู่แคมป์เร่งสร้างเหมือนกัน แต่ข้อสังเกตของ Goedecke มันคมตรงที่ว่า เราไม่สามารถใช้ "คนในวงการเขาก็ยังทำกันอยู่" เป็นหลักฐานว่าเรื่องนี้ไม่น่ากลัวได้ เพราะคนในวงการนั่นแหละคือคนที่บอกว่ามันน่ากลัว
นี่คือ paradox ที่น่าสนใจมาก ถ้าวิศวกรที่สร้างโมเดลเชื่อว่าโมเดลอาจฆ่าทุกคน แล้วเขายังสร้างต่อ — นั่นหมายความว่าเขาประเมินว่า (ก) โอกาสมันต่ำพอที่จะรับความเสี่ยงได้ หรือ (ข) ประโยชน์จากการสร้างมันสูงพอที่จะคุ้ม หรือ (ค) เขาไม่รู้จะหยุดยังไงแล้วจริงๆ ซึ่งทั้งสามข้อนี้ล้วนเป็นเรื่องที่ควรค่าแก่การถกกันในที่สาธารณะ ไม่ใช่ปล่อยให้เป็นการตัดสินใจภายในของบริษัทไม่กี่แห่ง
และที่สำคัญ บทความนี้ไม่ได้บอกว่าเราควรกลัว AI หรือควรหยุดพัฒนา มันบอกแค่ว่าเราไม่ควรหลอกตัวเองว่าคนที่รู้เรื่องนี้ดีที่สุดเห็นด้วยกับความสบายใจของเรา
ประเด็นไม่ได้อยู่ที่ว่า AI จะฆ่าเราจริงไหม แต่อยู่ที่ว่าเราจะยอมรับความจริงข้อนี้หรือเปล่า — ว่าคนที่สร้างมันขึ้นมาหลายคนเชื่อแบบนั้นจริงๆ ถ้าเราเถียงเรื่องนี้โดยไม่ยอมรับ premise ข้อนี้ตั้งแต่แรก การถกเถียงทั้งหมดก็จะวนอยู่แต่ในโลกของตัวเอง
ที่มา: Hacker News (Coding/Agent) — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...