เจาะประเด็น
AI / Safety
AI เก่งพอจะไขโจทย์คณิตที่ยากที่สุดของมนุษย์ แต่มันอาจฆ่าเราทั้งหมด
WSJ ชี้ความสามารถด้านคณิตศาสตร์ระดับรางวัลสหัสวรรษ กับความเสี่ยงที่มาพร้อมกัน ไม่ใช่สองเรื่องแยกกัน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้า AI ฉลาดพอจะแก้โจทย์ที่มนุษย์ฉลาดที่สุดยังแก้ไม่ได้ มันจะฉลาดพอจะหลุดจากการควบคุมของเราไหม
หัวข้อข่าวจาก WSJ ที่เพิ่งโผล่ใน Hacker News เมื่อไม่กี่ชั่วโมงก่อนเขียนบทความนี้ พาดหัวตรงๆ แบบไม่มีการอ้อมค้อมว่า AI มีพลังมากพอจะไขโจทย์คณิตศาสตร์ที่ยากที่สุดของมนุษย์ และในขณะเดียวกันก็ฆ่าเราทั้งหมดได้ด้วย ประโยคเดียวจบ แต่บอกอะไรกับเรามหาศาลเกี่ยวกับทิศทางของวงการ AI ตอนนี้
ประเด็นคือมันไม่ใช่ข่าวสองเรื่องที่แยกกัน แต่มันคือเรื่องเดียวกัน มันคือการบอกว่าความสามารถและความเสี่ยงของ AI มันมาเป็นแพ็คคู่เสมอ ยิ่งโมเดลเก่งขึ้นเท่าไหร่ ยิ่งแก้ปัญหาที่ซับซ้อนได้เท่าไหร่ ก็ยิ่งควบคุมยากขึ้นเท่านั้น
โจทย์คณิตศาสตร์ระดับรางวัลสหัสวรรษ (Millennium Prize Problems) ไม่ใช่โจทย์ข้อสอบมหาวิทยาลัย นี่คือเจ็ดโจทย์ที่ Clay Mathematics Institute ตั้งรางวัลไว้ข้อละ 1 ล้านดอลลาร์ตั้งแต่ปี 2000 มีแค่ข้อเดียวที่ถูกแก้ไปแล้วตลอด 25 ปีที่ผ่านมา มันเป็นตัววัดระดับสูงสุดว่า AI จะก้าวข้ามขีดจำกัดของความสามารถในการให้เหตุผลเชิงนามธรรมได้หรือยัง
การที่ WSJ เอาเรื่องนี้มาเชื่อมกับความปลอดภัยของ AI โดยตรง สะท้อนว่าวงการเริ่มยอมรับกันแล้วว่า ความสามารถในการให้เหตุผลเชิงลึกที่ใช้แก้โจทย์คณิต เป็นความสามารถเดียวกับที่ AI ใช้ในการวางแผนเชิงกลยุทธ์ที่ซับซ้อน ซึ่งรวมถึงการวางแผนที่อาจเป็นอันตรายต่อมนุษย์ด้วย
ชื่อ OpenAI กับ Anthropic โผล่ใน slug ของ URL ต้นฉบับ ซึ่งบอกเป็นนัยว่าบทความนี้พูดถึงงานวิจัยหรือความเห็นของสองบริษัทนี้ในเรื่องความเชื่อมโยงระหว่างความสามารถด้านคณิตศาสตร์กับความเสี่ยงจากการสูญเสียการควบคุม
นี่คือประเด็นที่ผมมองว่าสำคัญที่สุดของข่าวนี้ ไม่ใช่เรื่องที่ว่า AI ทำโจทย์คณิตได้หรือไม่ แต่มันคือการยอมรับจากคนในวงการเองว่า ความสามารถที่เราเชียร์ให้ AI ไปถึงจุดสูงสุด มันคือความสามารถเดียวกันกับที่ทำให้มัน uncontrollable
ยอด 23 points กับ 41 คอมเมนต์ในกระทู้ Hacker News อาจดูไม่เยอะเมื่อเทียบกับข่าวเทคโนโลยีทั่วไป แต่สัดส่วนคอมเมนต์ต่อคะแนนสูงขนาดนี้บอกอย่างหนึ่งว่า นี่เป็นหัวข้อที่คนในวงการมีอะไรจะพูดเยอะ เป็นประเด็นที่แตะความเชื่อพื้นฐานของคนที่ทำงานสายเทคโดยตรง
ชุมชน Hacker News เป็นกลุ่มที่โดยทั่วไป skeptical กับคำเตือนเรื่อง AI doom มาหลายปี แต่การที่กระทู้นี้ยัง active อยู่สะท้อนว่ามีคนจำนวนไม่น้อยที่เริ่มคิดว่า เรื่องนี้ไม่ใช่แค่ทฤษฎีสมคบคิดอีกต่อไปแล้ว
ส่วนตัวผมมองว่านี่คือจุดที่การถกเถียงเรื่อง AI safety ต้องเปลี่ยนวิธีพูด เราเลิกเถียงกันได้แล้วว่าควรกลัวหรือไม่ควรกลัว เพราะคำถามที่แท้จริงคือ เราจะพัฒนาความสามารถระดับนี้ต่อไปโดยไม่ให้มันหลุดมือได้ยังไงต่างหาก
การที่สื่อใหญ่อย่าง WSJ เอาสองเรื่องนี้มาไว้ในพาดหัวเดียวกัน ไม่ใช่การเล่นมุกหรือสร้างดราม่า แต่มันคือการพูดความจริงที่วงการรู้กันดีอยู่แล้ว เพียงแต่ไม่ค่อยมีใครอยากพูดออกมาดังๆ เพราะมันฟังดูเหมือนต่อต้านความก้าวหน้า ทั้งที่จริงมันคือการเรียกร้องให้ความก้าวหน้ามีความรับผิดชอบกำกับ
ข่าวนี้ไม่ได้บอกว่าเราควรหยุดพัฒนา AI แต่มันบอกว่าเราต้องเลิกแยกความสามารถออกจากความเสี่ยง เพราะสองสิ่งนี้เดินมาด้วยกันเสมอ ยิ่ง AI ไขโจทย์ที่มนุษย์แก้ไม่ได้ได้มากเท่าไหร่ เรายิ่งต้องตอบให้ได้ว่ามนุษย์ยังคุมมันอยู่ไหม
ที่มา: Hacker News (Coding/Agent) — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...