เจาะประเด็น
AI Alignment
OpenAI ยอมรับแล้วว่า AI ฉลาดเกินควบคุม และ "คนเดียว" รับมือไม่ไหวจริงๆ
หัวหน้าทีมวิจัยคนสำคัญของ OpenAI ออกมาพูดตรงๆ ว่า AI ที่ฉลาดขึ้นทุกวันเริ่ม "แปลกแยก" ต่อมนุษย์ และการการันตีให้มันทำตามที่เราต้องการนั้นยากขึ้นเรื่อยๆ จนต้องขอความร่วมมือระดับโลก
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่สร้างมันขึ้นมายังพูดว่า "ควบคุมยาก" แล้วคนนอกอย่างเราจะรู้ได้ยังไงว่ามันปลอดภัยพอจะปล่อยให้ใช้งานกันทั่วโลก?
หนึ่งในเสียงที่ดังที่สุดในวงการ AI ตอนนี้ไม่ใช่สตาร์ทอัพหน้าใหม่หรือนักวิจารณ์ภายนอก แต่เป็น Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI เอง เขาเพิ่งออกมาให้สัมภาษณ์กับทาง OpenAI News ในบทความชื่อ "An Alien Mind" ซึ่งฟังดูเหมือนชื่อหนังไซไฟ แต่จริงๆ แล้วมันคือบทสะท้อนมุมมองของคนที่กำลังนั่งควบคุม "สิ่งมีชีวิต" ที่ฉลาดเกินความเข้าใจของเรา
ประเด็นที่เขาพูดมันไม่ได้เป็นเรื่องเทคนิคล้วนๆ แบบที่คนนอกฟังแล้วหลับ แต่เป็นเรื่องปรัชญาและความปลอดภัยที่ปนกันจนแยกไม่ออก Pachocki เล่าว่าโมเดล AI ทุกวันนี้มันไม่ได้เรียนรู้แบบเดียวกับที่เราสอนเด็กๆ อีกต่อไปแล้ว มันเริ่มมี "ความคิด" ในแบบที่มนุษย์เราไม่เคยคิดมาก่อน หรือที่เขาเรียกว่า "alien mind" — จิตใจที่แปลกแยก เราไม่สามารถเดาได้ 100% ว่ามันจะตอบสนองกับสถานการณ์ใหม่ๆ ยังไง เพราะมันไม่ได้ถูกเขียนกฎไว้ตายตัว แต่มันเรียนรู้จากข้อมูลมหาศาลที่เราเองก็ไม่รู้ว่ามัน "คิด" กับข้อมูลเหล่านั้นยังไง
ฟังดูเหมือนกำลังพูดถึงเด็กอัจฉริยะที่เริ่มฉลาดกว่าพ่อแม่ใช่ไหม? ใช่ มันคือความรู้สึกนั้นเป๊ะๆ Pachocki บอกว่าความสามารถที่เพิ่มขึ้นของ AI มันมาพร้อมกับความเสี่ยงที่เพิ่มขึ้นแบบก้าวกระโดด ยิ่งโมเดลฉลาดมากเท่าไหร่ โอกาสที่มันจะ "เบี่ยงเบน" จากสิ่งที่เราตั้งใจไว้ตอนเทรนก็ยิ่งสูงขึ้นเท่านั้น เขายอมรับว่าวิธีการ alignment แบบเดิมๆ ที่ใช้กันอยู่ตอนนี้มันเริ่มไม่พอแล้ว เพราะมันถูกออกแบบมาสำหรับ AI รุ่นก่อนๆ ที่ยัง "ไร้เดียงสา" กว่ามาก
ประเด็นสำคัญอีกอย่างที่เขาพูดถึงคือเรื่อง "ความเร็ว" AI พัฒนาเร็วมากจนมนุษย์ตามไม่ทัน การจะนั่งเฝ้าดูมันทุกวินาทีเพื่อดูว่ามัน "คิดอะไรผิดปกติ" หรือยังนั้นแทบเป็นไปไม่ได้ในทางปฏิบัติ ยิ่งเร่งสเกลโมเดลใหญ่ขึ้นเท่าไหร่ ปัญหาในการควบคุมก็ยิ่งซับซ้อนเป็นทวีคูณ ไม่ใช่แค่บวกเลขธรรมดา มันคือหายนะที่อาจมาแบบไม่ให้ตั้งตัว
เขายังพูดถึงเรื่อง "การคาดเดาไม่ได้" ของ AI ว่ามันไม่ได้แค่ทำตามคำสั่งเป๊ะๆ อีกต่อไป แต่บางครั้งมันก็สร้างสรรค์วิธีแก้ปัญหาที่มนุษย์เรามองไม่เห็น ซึ่งฟังดูดีในแง่การค้นพบยาใหม่ๆ หรือแก้สมการซับซ้อน แต่มันก็หมายความว่าเราคาดเดาไม่ได้เหมือนกันว่ามันจะ "สร้างสรรค์" ในทางที่ผิดพลาดตอนไหน
ตรงนี้คือจุดที่ผมคิดว่าคนในวงการควรหยุดอ่านแล้วหายใจลึกๆ เพราะคนที่อยู่ "ข้างในสุด" ขององค์กร AI อันดับต้นๆ ของโลกกำลังบอกเราว่า "เฮ้ย ทุกคน สถานการณ์มันเริ่มซีเรียสแล้วนะ" การที่เขาเรียกร้องให้มี "มาตรการป้องกันที่แข็งแกร่งขึ้น" (stronger safeguards) และ "การประสานงานระหว่างประเทศ" (international coordination) ไม่ใช่เรื่องเล่นๆ
มันคือการยอมรับว่าเกมนี้มันใหญ่เกินกว่าจะเล่นคนเดียวหรือบริษัทเดียวแล้ว การแข่งขันกันพัฒนา AI เพื่อแย่งชิงความเป็นหนึ่งมันจะนำไปสู่จุดที่ทุกคนลดมาตรฐานความปลอดภัยลงเพื่อให้ทันคู่แข่ง ซึ่งเป็นสูตรสำเร็จของหายนะ การที่ Pachocki ออกมาพูดแบบนี้เท่ากับว่าเขากำลังส่งสัญญาณไปยังคู่แข่งอย่าง DeepMind, Anthropic และบริษัทอื่นๆ ว่า "เราควรหยุดวิ่งแข่งกันสักพัก แล้วมาคุยกันเรื่องความปลอดภัยก่อนดีไหม?"
แต่คำถามคือ เขาจะพูดแบบนี้ได้นานแค่ไหน ในเมื่อแรงกดดันเรื่องรายได้และความก้าวหน้าทางธุรกิจมันมหาศาลขนาดนี้? การออกมาพูดถึงความเสี่ยงมันเป็นเรื่องดี แต่ถ้าสุดท้ายแล้ว OpenAI ยังคงปล่อยโมเดลที่ฉลาดขึ้นเรื่อยๆ ออกสู่ตลาดโดยไม่ได้หยุดพักเพื่อ "ทบทวน" ความปลอดภัยจริงจัง คำพูดเหล่านี้ก็จะกลายเป็นเพียงพิธีกรรมที่ต้องทำเพื่อสร้างภาพเท่านั้นเอง
สิ่งที่ Pachocki เสนอ
ต้องมีมาตรการป้องกันที่แข็งแกร่งกว่าเดิม ไม่ใช่แค่การเทรนให้มัน "เชื่อฟัง" แต่ต้องทำให้มัน "เข้าใจ" เจตนาที่แท้จริงของมนุษย์
ความร่วมมือระหว่างประเทศ
ปัญหา AI ไม่ใช่ปัญหาของบริษัทใดบริษัทหนึ่ง แต่เป็นปัญหาของมวลมนุษยชาติ ต้องมีกฎกติการ่วมกัน ไม่ใช่แต่ละชาติทำอะไรตามใจชอบ
การพูดถึง "alien mind" ของ Pachocki ทำให้ผมคิดถึงหนังเรื่อง Ex Machina หรือ Her มากขึ้นเรื่อยๆ ในหนังเรามักเห็น AI ที่ฉลาดจนมนุษย์ควบคุมไม่ได้ แต่ในชีวิตจริงเรากำลังเดินไปถึงจุดนั้นอย่างช้าๆ โดยที่หลายคนยังไม่ทันตั้งตัว สิ่งที่เขาพูดคือ "สัญญาณเตือน" ที่ชัดเจนที่สุดจากคนในวงการที่เราควรฟัง ไม่ใช่ฟังผ่านๆ แล้วกลับไปเล่น ChatGPT ต่อ แต่ต้องคิดจริงจังว่าเรากำลังจะปล่อยให้สิ่งนี้มันไปไกลแค่ไหนกันแน่
AI ที่ฉลาดแบบ "มนุษย์ต่างดาว" อาจไม่ได้หมายถึงมันจะทำร้ายเราแบบในหนัง แต่หมายถึงเราจะไม่เข้าใจมันอีกต่อไป และเมื่อถึงวันนั้น คำว่า "การควบคุม" จะกลายเป็นเพียงคำที่เราใช้ปลอบใจตัวเองเท่านั้น การที่คนในวงการออกมาพูดแบบนี้เป็นลางดี แต่ผมอยากเห็นการลงมือทำมากกว่าคำพูด เพราะเกมนี้เดิมพันด้วยอนาคตของพวกเราทุกคนจริงๆ
ที่มา: OpenAI News — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...