เจาะประเด็น
AI Research
AI พัฒนาตัวเองได้แล้วจริงหรือ? สองนักวิจัยดังถกกันกลางพอดแคสต์ เรื่องนี้ไม่ใช่แค่ทฤษฎีอีกต่อไป
คำถามที่ว่าวันหนึ่ง AI จะปรับปรุงตัวเองได้แบบวนซ้ำไม่หยุด กำลังกลายเป็นหัวข้อที่คนในวงการเถียงกันจริงจัง ไม่ใช่แค่ฉากในหนังวิทยาศาสตร์อีกแล้ว
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI เขียนโค้ดปรับปรุงตัวมันเองได้จริง คำถามต่อไปไม่ใช่ "ทำได้ไหม" แต่คือ "เราจะรู้ตัวทันไหมตอนมันเริ่มทำ"
หัวข้อ "AI พัฒนาตัวเองแบบวนซ้ำ" หรือ recursive self-improvement กลับมาเป็นประเด็นร้อนอีกครั้ง หลังจอห์น เบเรน และชาร์ลี สองนักวิจัยสาย AI ออกมาถกกันในพอดแคสต์ของ Dwarkesh Patel ว่าวงการเราห่างจากจุดนั้นแค่ไหนแล้ว งานนี้ไม่ได้จบที่คำถามเชิงปรัชญาเท่ๆ ในทวิตเตอร์ แต่กลายเป็นดีเบตจริงจังว่าเส้นแบ่งระหว่าง "เครื่องมือเก่งๆ" กับ "ระบบที่ปรับปรุงตัวเองได้" มันอยู่ตรงไหนกันแน่
ประเด็นนี้สำคัญเพราะมันคือจุดเปลี่ยนเชิงทฤษฎีของทั้งวงการ ถ้า AI เริ่มเขียนโค้ดเวอร์ชันถัดไปของตัวเองได้ดีขึ้นเรื่อยๆ แบบไม่ต้องรอมนุษย์นั่งเทรน มันจะเปลี่ยนสมการทุกอย่างที่เรารู้จัก ทั้งเรื่องความเร็วในการพัฒนา เรื่องความปลอดภัย และเรื่องว่าใครกันแน่ที่คุมเกมนี้อยู่
ที่ผ่านมา เวลาคนพูดถึง AI ที่พัฒนาตัวเองได้ ส่วนใหญ่จะจบลงที่ "ยังอีกไกล" หรือ "ยังเป็นแค่ในนิยายวิทยาศาสตร์" แต่การถกกันครั้งนี้สะท้อนว่าคนในวงการเริ่มมองเห็นสัญญาณบางอย่างจากโมเดลรุ่นปัจจุบัน ว่าเส้นทางสู่วงจรแบบนั้นอาจไม่ได้ไกลอย่างที่คิด
มุมหนึ่งที่ถูกหยิบขึ้นมาเถียงคือ ต่อให้โมเดลยังไม่ฉลาดพอจะออกแบบตัวเองใหม่ได้ทั้งหมด แต่มันอาจเก่งพอจะช่วยเร่งงานวิจัย AI ได้แล้ว ซึ่งนั่นก็ถือเป็นจุดเริ่มต้นของวงจรแบบเดียวกัน เพียงแต่ยังมีมนุษย์อยู่ในลูป
อีกด้านคือคำถามเรื่องการวัดผล ถ้าเราบอกว่า AI "พัฒนาตัวเอง" ได้ เราจะวัดยังไงว่าเก่งขึ้นจริง ไม่ใช่แค่เก่งขึ้นใน benchmark ที่เราตั้งให้มันเอง ซึ่งเป็นปัญหาที่วงการยังไม่มีคำตอบชัดเจน
พูดตรงๆ นะ ผมว่าการเถียงกันเรื่องนี้มันมีค่ามากกว่าการรอคำตอบ เพราะมันบังคับให้คนในวงการต้องนิยามให้ชัดว่า "พัฒนาตัวเอง" หมายถึงอะไรกันแน่ วัดจากอะไร และใครจะรับผิดชอบถ้ามันไปไกลกว่าที่คุมไหว
สิ่งที่ผมกังวลไม่ใช่ scenario หนังฮอลลีวูดที่ AI ตื่นรู้แล้วยึดโลก แต่คือความเงียบของคนที่บอกว่า "ยังอีกไกล" จนวันที่มันไม่ไกลแล้ว เราอาจจะไม่มีกรอบอะไรเลยมารองรับ
คำถามไม่ใช่ว่า AI จะพัฒนาตัวเองได้เมื่อไหร่ แต่ว่าวันที่มันทำได้ วงการเราจะรู้ตัวทันหรือเปล่า และมีใครพร้อมรับผิดชอบจริงๆ บ้างไหม
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...