เจาะประเด็น
AI / Research
จะจับ AI มา "จัดระเบียบ" ให้ตรงกับคณิตศาสตร์ มันก็ยังไม่พออยู่ดี
เมื่อโจทย์ไม่ใช่แค่ทำให้ AI คิดเลขเก่งขึ้น แต่คือถามกลับว่าจริงๆ แล้วเราอยากให้มัน "ตรงกับ" อะไรกันแน่
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเป้าหมายของ AI คือการพิสูจน์ทฤษฎีบทได้จริง ปัญหาสำคัญอาจไม่ใช่ความเก่งของโมเดล แต่เป็นคำถามที่ว่า "จริง" หมายถึงอะไรในโลกของเครื่องจักร
หนึ่งในประเด็นที่ถูกพูดถึงกันในวงการ AI ช่วงหลังๆ คือเรื่อง "alignment" หรือการจัดแนวให้โมเดลทำในสิ่งที่มนุษย์ต้องการ แต่โพสต์หนึ่งบนบล็อกของ Lior Pachter ที่ถูกหยิบมาถกกันใน Hacker News กำลังตั้งคำถามในมุมที่ลึกกว่านั้น — ถ้าเราอยากให้ AI เก่งคณิตศาสตร์จริงๆ แล้ว "การจัดแนว" มันควรจะจัดไปหาอะไร
ประเด็นนี้สำคัญเพราะทุกวันนี้คนส่วนใหญ่เวลาพูดถึง AI กับคณิตศาสตร์ มักจะโฟกัสที่ "โมเดลแก้โจทย์ได้กี่เปอร์เซ็นต์" หรือ "สอบผ่านระดับไหน" ซึ่งมันเป็นตัววัดแบบปลายทาง แต่ Pachter กำลังชี้ว่าเราอาจกำลังตั้งโจทย์ผิดมาตลอด
Lior Pachter เป็นนักวิทยาศาสตร์คอมพิวเตอร์และนักชีววิทยาด้านคอมพิวเตอร์ที่ทำงานสายคณิตศาสตร์เชิงทฤษฎีมานาน เขาเขียนบล็อกส่วนตัวอยู่ที่ liorpachter.wordpress.com และโพสต์นี้ถูกแชร์ต่อใน Hacker News ซึ่งเป็นที่ชุมนุมของสายโปรแกรมเมอร์และนักวิจัยที่มักถกกันเรื่องเชิงเทคนิคแบบไม่ค่อยไว้หน้าอะไร
ตัวบทความชื่อ "Align AI and Mathematics–To Something Else" สื่อชัดตั้งแต่ชื่อเลยว่าเขากำลังบอกว่า "การ align AI เข้ากับคณิตศาสตร์" ที่พูดกันอยู่นี้ มันยังไม่พอ ต้อง align ไปหาอะไรที่ "อื่น" อีก
ถ้าคุณตามข่าว AI กับคณิตศาสตร์มาสักพัก จะเห็นว่ามีการพูดถึง "AI ที่พิสูจน์ทฤษฎีบทได้" หรือ "AI ที่ช่วยงานวิจัยทางคณิตศาสตร์" กันเยอะมาก และหลายครั้งมันถูกนำเสนอราวกับว่า ถ้า AI พิสูจน์อะไรได้สักอย่าง แปลว่ามัน "เข้าใจ" คณิตศาสตร์แล้ว
แต่ในมุมของคนที่ทำงานคณิตศาสตร์จริงๆ การพิสูจน์ที่ถูกต้องในเชิงรูปแบบ กับ "การเข้าใจ" มันคนละเรื่องกันเลย และนี่คือจุดที่คำว่า alignment ถูกดึงเข้ามาเกี่ยวข้อง — เราจะ align AI กับ "ความจริงทางคณิตศาสตร์" ได้ยังไง ถ้าการพิสูจน์ของมันผ่านตามกฎ แต่ไม่มีใครรู้ว่ามันหมายถึงอะไร
ในกระทู้ Hacker News ที่พูดถึงโพสต์นี้ มีความเห็น 26 ความเห็น ซึ่งสะท้อนว่าประเด็นนี้ไม่ได้เป็นแค่เรื่องปรัชญาแห้งๆ แต่คนทำงานเทคนิคจริงๆ ก็กำลังคิดเรื่องนี้อยู่เหมือนกัน
ส่วนตัวผมคิดว่าประเด็นนี้เป็นสัญญาณที่ดีนะ มันแปลว่าวงการเริ่มขยับจากคำถาม "ทำยังไงให้ AI เก่งขึ้น" ไปสู่คำถาม "เก่งไปเพื่ออะไร และเราจะรู้ได้ยังไงว่ามันเก่งจริง" ซึ่งเป็นคำถามที่จำเป็นมาก เพราะถ้าเรายังวัดกันแค่ตัวเลขบน benchmark ต่อไป เราก็จะได้ AI ที่ทำคะแนนสวยแต่ไม่มีใครไว้ใจมันได้จริงในงานวิจัย
การ align AI กับคณิตศาสตร์ไม่ใช่แค่ปัญหาทางเทคนิค แต่มันคือคำถามว่าเราให้นิยาม "ความจริง" กับเครื่องจักรยังไง และถ้ายังตอบข้อนี้ไม่ได้ ทุก benchmark ที่สวยหรูก็เป็นแค่ตัวเลขที่ไม่มีใครกล้าเชื่อจริงๆ
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...