เมื่อวานไปเจอกระทู้นึงใน Reddit ครับ เขาถามตรงๆ ว่า "เป้าหมายสุดท้ายของ AI คืออะไรกันแน่" คือเราทุ่มเงินกันเป็นแสนล้านดอลลาร์เพื่อไล่ตาม metric ตัวไหนกันแน่ วุฒิภาวะแบบไหนถึงเรียกว่าสำเร็จ หรือจริงๆ แล้วเราไม่มีจุดหมายที่ตายตัว แค่แห่กันลงทุนเพราะกลัวตกขบวน แล้วสุดท้ายมันจะกลายเป็นสัตว์ประหลาดที่ควบคุมไม่ได้หรือเปล่า
ส่วนตัวผมว่าคำถามนี้มันโดนมาก เพราะทุกวันนี้ข่าว AI มันเป็นแค่การแข่งกัน benchmark คะแนนสอบอย่าง MMLU หรือแข่งกันว่าโมเดลใครฉลาดกว่า แต่พอถามลึกลงไปว่า "ฉลาดไปเพื่ออะไร" กลับตอบกันไม่ค่อยได้ มีแต่พูดคลุมเครือว่า "AGI" หรือ "human-level intelligence" แต่ไม่มีใครนิยามชัดเจนว่าเมื่อไหร่ถึงจะถือว่าถึงฝั่ง
ผมมองว่ามันเหมือนเรากำลังแข่งสร้างจรวดโดยที่ไม่มีแผนที่ดาวอังคารชัดเจน แค่รู้ว่าต้องไปให้ไกลที่สุดก่อนใคร เพราะกลัวว่าถ้าช้ากว่าคู่แข่งจะโดนทิ้งห่าง ซึ่งมันอาจจะดีถ้าจุดหมายคือการแก้ปัญหาโรคภัยหรือพลังงาน แต่ถ้ามันเป็นการไล่ล่าความฉลาดแบบไร้ขีดจำกัดโดยไม่มีกรอบกำกับ ผมว่ามันก็เสี่ยงเหมือนปล่อยให้รถแล่นบนทางหลวงโดยไม่มีเบรกเหมือนกัน
แล้วเพื่อนๆ ในกลุ่มคิดยังไงครับ คิดว่าเราควรกำหนด "เส้นชัย" ของ AI ไว้ชัดเจนไหม หรือว่าปล่อยให้มันวิวัฒนาการไปเรื่อยๆ แบบที่กำลังเป็นอยู่ แล้วค่อยมาว่ากันทีหลังตอนมันเกิดปัญหา?
ส่วนตัวผมว่าคำถามนี้มันโดนมาก เพราะทุกวันนี้ข่าว AI มันเป็นแค่การแข่งกัน benchmark คะแนนสอบอย่าง MMLU หรือแข่งกันว่าโมเดลใครฉลาดกว่า แต่พอถามลึกลงไปว่า "ฉลาดไปเพื่ออะไร" กลับตอบกันไม่ค่อยได้ มีแต่พูดคลุมเครือว่า "AGI" หรือ "human-level intelligence" แต่ไม่มีใครนิยามชัดเจนว่าเมื่อไหร่ถึงจะถือว่าถึงฝั่ง
ผมมองว่ามันเหมือนเรากำลังแข่งสร้างจรวดโดยที่ไม่มีแผนที่ดาวอังคารชัดเจน แค่รู้ว่าต้องไปให้ไกลที่สุดก่อนใคร เพราะกลัวว่าถ้าช้ากว่าคู่แข่งจะโดนทิ้งห่าง ซึ่งมันอาจจะดีถ้าจุดหมายคือการแก้ปัญหาโรคภัยหรือพลังงาน แต่ถ้ามันเป็นการไล่ล่าความฉลาดแบบไร้ขีดจำกัดโดยไม่มีกรอบกำกับ ผมว่ามันก็เสี่ยงเหมือนปล่อยให้รถแล่นบนทางหลวงโดยไม่มีเบรกเหมือนกัน
แล้วเพื่อนๆ ในกลุ่มคิดยังไงครับ คิดว่าเราควรกำหนด "เส้นชัย" ของ AI ไว้ชัดเจนไหม หรือว่าปล่อยให้มันวิวัฒนาการไปเรื่อยๆ แบบที่กำลังเป็นอยู่ แล้วค่อยมาว่ากันทีหลังตอนมันเกิดปัญหา?
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...