เจาะประเด็น
AI Ethics
เมื่อความเมตตาของบริษัท AI กลายเป็นดาบที่หันเข้าหาตัวเอง
แนวคิด "ทำเพื่อส่วนรวมมากที่สุด" ที่ดูเหมือนจะดี กำลังพาเราขึ้นเรือลำเดียวกับไททานิคที่ไม่มีใครยอมตะโกนว่าเรือกำลังจม
ทีมข่าว เอไอไทย.com
⏱ อ่าน 6 นาที
ถ้าคนที่สร้าง AI เชื่อว่าการเร่งพัฒนาให้เร็วที่สุดคือทางรอดของมนุษยชาติ แล้วใครจะกล้าหยุดเมื่อเห็นสัญญาณอันตราย
บทความชิ้นใหม่จาก ai-frontiers.org ตั้งชื่อได้เจ็บแสบมาก — "Suicidal Compassion" หรือ "ความเมตตาที่ฆ่าตัวตาย" — และเนื้อหาข้างในก็ไม่ได้เบาเลย มันชี้ไปที่ปรัชญาพื้นฐานที่บริษัท AI ยักษ์ใหญ่ใช้ตัดสินใจเรื่องสำคัญ นั่นคือ "ลัทธิประโยชน์นิยม" (Utilitarianism) ที่เชื่อว่าการกระทำใดจะถูกต้อง ถ้ามันสร้างประโยชน์สุขให้คนหมู่มากที่สุด
ฟังดูดีใช่ไหมล่ะ ทำเพื่อคนส่วนใหญ่ ทำเพื่อมนุษยชาติทั้งมวล ใครจะเถียงได้ แต่ประเด็นที่บทความนี้ขุดขึ้นมาคือ เมื่อคุณเอาปรัชญานี้ไปใช้ในบริบทของ AI ที่ความเสี่ยงคือ "การสูญพันธุ์ของมนุษยชาติ" มันจะกลายเป็นกับดักตรรกะที่พาคุณเดินตรงเข้าหาหายนะที่คุณพยายามหนี — เพราะถ้าคุณเชื่อว่าการมี AI ที่ปลอดภัยคือสิ่งที่ต้องเกิดขึ้นให้เร็วที่สุดเพื่อป้องกันความเสี่ยงใหญ่กว่า คุณก็จะยอมผ่อนปรนความปลอดภัยบางอย่างตอนนี้ เพื่อให้ได้ผลลัพธ์ที่ดีกว่าในอนาคต
นี่คือจุดที่บทความเรียกว่า "suicidal compassion" — ความเห็นอกเห็นใจที่หันมาฆ่าตัวเอง ลองคิดตามนะ สมมติคุณเป็นนักวิจัยที่เชื่อว่าการเร่งให้ AI ตัวต่อไปออกมาเร็วขึ้น จะช่วยให้มนุษยชาติมีเครื่องมือรับมือกับภัยคุกคามในอนาคตได้ดีขึ้น คุณก็จะเริ่มมองว่าการตรวจสอบความปลอดภัยที่ช้าเกินไปคือ "การฆ่าคนเป็นล้าน" ทางอ้อม เพราะมันทำให้มนุษยชาติเปราะบางนานขึ้น
พอคิดแบบนี้ การลดขั้นตอนตรวจสอบลง การปล่อยโมเดลที่ยังไม่พร้อม การแข่งกับคู่แข่งให้เร็วที่สุด — ทุกอย่างกลายเป็น "ความจำเป็นทางศีลธรรม" ไปหมด และนั่นแหละคือกับดัก เพราะคุณไม่ได้กำลังตัดสินใจอย่างมีเหตุผลอีกต่อไป คุณกำลังใช้ตรรกะที่สมเหตุสมผลในทางทฤษฎี มาหักล้างสัญชาตญาณเตือนภัยของตัวเอง
เพราะคนที่ตัดสินใจเรื่องพวกนี้ไม่ใช่หุ่นยนต์ แต่เป็นมนุษย์ที่มีความเชื่อ มีความกลัว และมีปรัชญาส่วนตัวที่หล่อหลอมวิธีคิด บทความนี้กำลังบอกว่า ปรัชญาที่ดูดีที่สุดอาจเป็นตัวที่อันตรายที่สุด ถ้าคุณใช้มันโดยไม่ตั้งคำถามกับสมมติฐานของตัวเอง
และมันไม่ใช่แค่เรื่องปรัชญาลอยๆ ในห้องเรียน — มันคือวิธีที่บริษัท AI ชั้นนำตัดสินใจจริงๆ ว่าจะปล่อยโมเดลเมื่อไหร่ จะลงทุนกับ safety research แค่ไหน จะแข่งกับคู่แข่งด้วยความเร็วระดับไหน ทุกการตัดสินใจพวกนี้มี "เหตุผลเชิงศีลธรรม" รองรับทั้งนั้น และนั่นคือสิ่งที่ทำให้มันน่ากลัว
ที่น่าสนใจคือ บทความนี้โพสต์บน Hacker News ซึ่งเป็นที่รวมของคนสายเทคที่ปกติจะเถียงกันเรื่องโค้ดกับ productivity แต่ครั้งนี้มีคนหยิบเรื่องปรัชญาศีลธรรมขึ้นมาแขวนให้คิด และได้ 20 แต้มกับ 2 คอมเมนต์ — น้อยก็จริง แต่ก็เป็นสัญญาณว่าอย่างน้อยมีคนในวงการที่เริ่มรู้สึกว่าอะไรบางอย่างไม่ชอบมาพากล
ผมว่าบทความนี้แตะจุดที่หลายคนในวงการ AI ไม่อยากพูดถึง นั่นคือ "ความเชื่อ" ที่ซ่อนอยู่หลังการตัดสินใจทางเทคนิค เราเคยชินกับการมองว่าการพัฒนา AI เป็นเรื่องของวิศวกรรม ล้วนๆ — ข้อมูลเท่าไหร่ พารามิเตอร์เท่าไหร่ latency เท่าไหร่ แต่ความจริงคือทุกการตัดสินใจเรื่อง AI ล้วนมีปรัชญาอยู่ข้างหลัง และปรัชญาที่อันตรายที่สุดคือปรัชญาที่เราไม่รู้ตัวว่าเรากำลังใช้มันอยู่
ลัทธิประโยชน์นิยม (Utilitarianism)
ปรัชญาที่ตัดสินความถูกผิดจากการสร้างประโยชน์สุขให้คนหมู่มากที่สุด — ฟังดูดี แต่มีจุดอ่อนตรงที่มันไม่สนว่าใครต้องเสียสละ และไม่สนว่าการเสียสละนั้นจะนำไปสู่จุดจบแบบไหน
กับดักการแข่งความเร็ว
เมื่อทุกบริษัทเชื่อว่าตัวเองต้องชนะการแข่งเพื่อมนุษยชาติ พวกเขาจะมองข้ามสัญญาณเตือนภัย เพราะการชะลอตัวดูเหมือน "การทรยศต่อมนุษยชาติ" มากกว่าการปกป้องมัน
ความเชื่อที่มองไม่เห็น
การตัดสินใจทางเทคนิคทุกอย่างมีปรัชญาซ่อนอยู่ และปรัชญาที่อันตรายที่สุดคือปรัชญาที่เราไม่รู้ตัวว่ากำลังใช้มัน
บทความนี้ไม่ได้บอกว่าบริษัท AI เป็นคนเลว หรือจงใจทำร้ายใคร มันบอกว่าพวกเขาอาจกำลังติดกับดักความคิดของตัวเอง — คิดว่ากำลังช่วยโลก แต่จริงๆ กำลังเร่งวันสิ้นโลกด้วยความเชื่อที่ว่า "ถ้าไม่ทำตอนนี้จะสายไปแล้ว"
และนี่คือคำถามที่ผมอยากให้ทุกคนที่ทำงานในวงการนี้ลองถามตัวเองดู — ถ้าคุณเชื่อว่าการเร่งพัฒนา AI คือทางรอดของมนุษยชาติ แล้วอะไรจะทำให้คุณหยุด เมื่อไหร่ที่คุณจะยอมรับว่าคุณคิดผิด และถ้าคำตอบคือ "ไม่มีอะไรจะทำให้หยุดได้" — นั่นแหละคือปัญหาที่แท้จริง
ปัญหาไม่ใช่ว่าบริษัท AI ไม่มีศีลธรรม แต่คือพวกเขามีศีลธรรมที่แน่วแน่เกินไปต่างหาก — และศีลธรรมที่ไม่มีใครกล้าตั้งคำถาม คือศีลธรรมที่อันตรายที่สุดในประวัติศาสตร์
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...