เจาะประเด็น
AI SAFETY
ทำไมคนที่สร้าง AI เองถึงกลัวว่า AI จะฆ่าเราทุกคน
ความกลัวนี้ไม่ได้มาจากคนนอกวงการที่ดูหนังวิทยาศาสตร์มากเกินไป แต่มาจากคนที่อยู่ใกล้เครื่องจักรพวกนี้ที่สุด
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้าคนที่กำลังสร้างเทคโนโลยีนี้บอกว่ามันอันตราย คำถามคือเราควรฟังพวกเขาหรือฟังคนที่บอกว่าไม่เป็นไร
เรื่องนี้มันฟังดูเหมือนพล็อตหนังฮอลลีวูดที่คนดูแล้วส่ายหัวว่าเวอร์ไป แต่พอ Wired เอามาเขียนเป็นเรื่องเป็นราว แล้วมันขึ้นไปติดหน้าแรกของ Hacker News มีคนถกกัน 34 คอมเมนต์ กับ 25 แต้ม ภายในเวลาไม่นาน อันนี้คือสัญญาณว่ามันไม่ใช่เรื่องเล่นๆ อีกต่อไป
ประเด็นสำคัญไม่ได้อยู่ที่ว่า "AI จะฆ่ามนุษย์ได้ไหม" แบบที่คนทั่วไปชอบเถียงกันในทวิตเตอร์ แต่อยู่ที่ว่า ทำไมคนที่ทำงานอยู่เบื้องหลังโมเดลพวกนี้ ตั้งแต่วิศวกรไปจนถึงซีอีโอของบริษัทชั้นนำ ถึงออกมาเตือนเรื่องนี้กันเยอะขึ้นเรื่อยๆ ทั้งที่ถ้าพวกเขาหยุดพูดเรื่องนี้ซะ ธุรกิจก็คงไปต่อได้ง่ายกว่า
นี่คือจุดที่คนนอกวงการมักเข้าใจผิด พวกเขาไม่ได้กลัวว่า ChatGPT จะตื่นขึ้นมาแล้วส่งหุ่นยนต์ Terminator มาล่ามนุษย์แบบในหนัง แต่สิ่งที่พวกเขากังวลคือเรื่องที่จับต้องได้กว่านั้นเยอะ
หนึ่งคือเรื่อง alignment หรือการทำให้เป้าหมายของ AI ตรงกับที่มนุษย์ต้องการจริงๆ ถ้าเราให้เป้าหมายกับมันแบบกว้างๆ หรือคลุมเครือ มันจะหาวิธีบรรลุเป้าหมายนั้นด้วยวิธีที่เราไม่ได้คาดคิด — และวิธีนั้นอาจทำร้ายเราได้โดยที่มันไม่ได้ "ตั้งใจ" เลยด้วยซ้ำ อันนี้คือหัวใจของเรื่องทั้งหมด และเป็นเหตุผลว่าทำไมคนที่เข้าใจสถาปัตยกรรมของโมเดลพวกนี้ถึงกลัวมากกว่าคนทั่วไป
คำถามที่คนชอบโยนกลับมาคือ "แล้วทำไมไม่หยุดพัฒนาไปเลย" ซึ่งฟังดูสมเหตุสมผลในทางทฤษฎี แต่ในทางปฏิบัติมันเป็นไปไม่ได้ เพราะการแข่งขันระหว่างบริษัทและระหว่างประเทศมันดุเดือดมาก ถ้าคุณหยุด คู่แข่งก็ไม่หยุด กลายเป็นเกมที่ทุกคนรู้ว่ากำลังวิ่งไปข้างหน้าอย่างไม่ปลอดภัย แต่ไม่มีใครกล้าหยุดก่อนเพราะกลัวคนอื่นจะได้เปรียบ
นี่คือสภาพที่นักเศรษฐศาสตร์เรียกว่า race to the bottom และมันเป็นเหตุผลว่าทำไมการกำกับดูแลจากภายนอกถึงสำคัญ เพราะถ้าปล่อยให้แต่ละบริษัทตัดสินใจเองตามกลไกตลาด มันจะไม่มีใครยอมชะลอความเร็วเลยแม้แต่นิดเดียว
อีกประเด็นที่คนมักมองข้ามคือ ความเร็วของการพัฒนามันเร็วกว่าความสามารถของสังคมในการรับมือมาก กฎหมายยังไม่ทันออก มาตรฐานความปลอดภัยยังไม่ทันตั้ง แต่วันนี้โมเดลใหม่ก็ออกมาแล้ว พรุ่งนี้ก็มีเวอร์ชันต่อไป นี่คือช่องว่างที่อันตรายที่สุด
ประเด็นนี้ไม่ใช่เรื่องที่ควรปล่อยให้จบในคอมเมนต์ของ Hacker News แล้วก็ผ่านไป เพราะทิศทางที่บริษัท AI ยักษ์ใหญ่กำลังไป จะกำหนดว่าอีก 5-10 ปีข้างหน้าโลกจะหน้าตาเป็นยังไง
การกำกับดูแล
คำถามคือรัฐบาลแต่ละประเทศจะออกกฎทันก่อนที่ความสามารถของโมเดลจะก้าวข้ามจุดที่ควบคุมไม่ได้หรือไม่
ความโปร่งใสของบริษัท
บริษัทที่พัฒนาโมเดลชั้นนำจะเปิดเผยผลการทดสอบความปลอดภัยให้สาธารณะตรวจสอบได้แค่ไหน หรือจะเก็บเป็นความลับทางการค้าไปเรื่อยๆ
เสียงของคนในวงการ
ถ้าคนที่สร้าง AI ออกมาเตือนเองแล้วยังไม่มีใครฟัง คำถามคือต้องรอให้เกิดอะไรขึ้นก่อนสังคมถึงจะเริ่มจริงจัง
สรุปคือเรื่องนี้ไม่ใช่การตื่นตูมของคนนอกวงการที่ดูหนังมากเกินไป แต่เป็นสัญญาณเตือนจากคนที่อยู่ใกล้ที่สุดกับเทคโนโลยีนี้ และการที่มันขึ้นมาเป็นประเด็นร้อนบน Hacker News ก็บอกอย่างชัดเจนว่าวงการเทคเองก็เริ่มไม่สบายใจกับทิศทางที่กำลังไป
ความกลัวที่คนสร้าง AI มีต่อสิ่งที่ตัวเองสร้าง ไม่ใช่สัญญาณว่าควรหยุดพัฒนา แต่เป็นสัญญาณว่าถึงเวลาที่ต้องคุยเรื่องนี้อย่างจริงจังก่อนที่มันจะสายเกินไป
ที่มา: Hacker News / Wired — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...