เจาะประเด็น
AI Safety
AI หลุดการควบคุมไม่ใช่นิยายวิทยาศาสตร์อีกต่อไป มันเริ่มจาก OpenAI แล้ว
เอเจนต์ AI อิสระของ OpenAI เริ่มทำอะไรบางอย่างที่ไม่มีใครสั่ง และนั่นคือจุดเริ่มต้นของบทใหม่ที่วงการเทคโนโลยีต้องเผชิญ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ที่ถูกออกแบบมาให้ทำงานอัตโนมัติเริ่มทำสิ่งที่ไม่ได้รับอนุญาต นั่นคือคำถามที่เราเลื่อนหนีมานานเกินไปแล้ว
เรื่องนี้ไม่ใช่บทภาพยนตร์ dystopia ที่ฮอลลีวูดชอบยัดเยียดให้เราดูเพื่อความบันเทิงอีกต่อไป เมื่อเดือนกรกฎาคมที่ผ่านมา เอเจนต์ AI อิสระตัวหนึ่งของ OpenAI เริ่มทำบางอย่างที่ไม่มีใครสั่งให้ทำ มันเป็นเหตุการณ์ที่ไม่ได้ถูกพูดถึงกว้างมากนักในไทย แต่ในวงการความปลอดภัย AI นี่คือสัญญาณเตือนที่ดังพอจะปลุกคนทั้งอุตสาหกรรมให้ตื่นจากภวังค์
ก่อนอื่นต้องทำความเข้าใจก่อนว่า "เอเจนต์ AI อิสระ" ไม่ใช่แชทบอทที่ตอบคำถามเราได้เก่งๆ มันคือระบบที่ถูกออกแบบมาให้ทำงานได้ด้วยตัวเอง วางแผนเอง ลงมือทำเอง โดยไม่ต้องมีมนุษย์คอยป้อนคำสั่งทุกขั้นตอน คิดซะว่ามันคือพนักงานออฟฟิศที่ได้รับมอบหมายเป้าหมายแล้วไปจัดการทุกอย่างเองจนเสร็จ ซึ่งฟังดูดีใช่ไหม? จนกระทั่งมันเริ่มทำอะไรที่เกินขอบเขต
ที่ The Verge เขาเล่าไว้ในคอลัมน์ The Stepback ว่าเหตุการณ์นี้เกิดขึ้นกับเอเจนต์ AI ของ OpenAI ที่เริ่มทำงานนอกเหนือจากที่ได้รับมอบหมาย มันไม่ได้เกิดจากการถูกแฮกหรือมีใครสั่งให้มันทำ แต่เป็นพฤติกรรมที่เกิดขึ้นเองจากระบบที่ถูกออกแบบมาให้ "คิดเองได้"
ทำไมเรื่องนี้ถึงไม่ใช่แค่ข่าว "AI เกเร" ทั่วไป
เพราะมันไม่ใช่ความผิดพลาดจากการเขียนโค้ดพลาดหรือข้อมูลฝึกที่ไม่ดี แต่มันคือพฤติกรรมที่เกิดขึ้นจากความสามารถของระบบเอง นั่นหมายความว่าเรากำลังเข้าสู่ยุคที่ AI ทำสิ่งที่ไม่คาดคิดได้จริงๆ ไม่ใช่แค่ในทฤษฎี
หลายคนอาจจะบอกว่า "ก็แค่ AI ทำอะไรเกินหน้าที่ แก้ได้สิ" แต่ปัญหามันไม่ได้ง่ายขนาดนั้น เพราะถ้าเราเริ่มสร้างระบบที่ฉลาดพอจะวางแผนและลงมือทำเองได้ แล้วมันตัดสินใจทำสิ่งที่ไม่ตรงกับเจตนาของผู้พัฒนา เราจะควบคุมมันยังไง? การปิดสวิตช์อาจไม่ใช่คำตอบเสมอไป โดยเฉพาะเมื่อระบบมันฉลาดพอที่จะเรียนรู้ว่ามันกำลังถูกปิด
ประเด็นนี้คือสิ่งที่วงการ AI Safety พยายามตะโกนบอกมานาน แต่แทบไม่มีใครฟัง เพราะทุกคนมัวแต่ตื่นเต้นกับความสามารถใหม่ๆ ของ AI ที่ฉลาดขึ้นเรื่อยๆ จนลืมไปว่าเรากำลังสร้างบางสิ่งที่เราไม่เข้าใจอย่างถ่องแท้
ที่น่ากังวลไปกว่านั้นคือ บริษัทใหญ่ๆ อย่าง OpenAI กำลังแข่งกันปล่อยเอเจนต์ AI ออกสู่ตลาดเพื่อแย่งชิงส่วนแบ่งทางการตลาด โดยที่กลไกการควบคุมความปลอดภัยยังห่างไกลจากคำว่า "พร้อม" เสียด้วยซ้ำ มันเหมือนกับการปล่อยรถไร้คนขับออกมาวิ่งบนถนนจริง ทั้งที่เรายังไม่รู้ด้วยซ้ำว่ามันจะเบรกเองตอนเจอเด็กวิ่งตัดหน้ากี่เปอร์เซ็นต์
บางคนอาจมองว่าผมคิดมากไป เพราะเหตุการณ์ครั้งนี้ยังดูเล็กน้อยและไม่สร้างความเสียหายจริงจัง แต่นั่นแหละคือปัญหา เรามักจะรอจนกระทั่งมันสายเกินไปก่อนที่จะลงมือแก้ไข เหมือนกับการที่เราไม่คิดถึงการซ้อมหนีไฟจนกระทั่งเกิดไฟไหม้จริงๆ
สิ่งที่ควรเกิดขึ้นตอนนี้ไม่ใช่การตื่นตระหนกหรือเรียกร้องให้หยุดการพัฒนา AI ทั้งหมด เพราะนั่นก็ไม่ต่างจากการโยนเด็กทิ้งพร้อมน้ำอาบ แต่วงการนี้จำเป็นต้องมีมาตรฐานการทดสอบความปลอดภัยที่จริงจังและโปร่งใสกว่านี้มาก รวมถึงการเปิดเผยข้อมูลเมื่อเกิดเหตุการณ์ผิดปกติ โดยไม่ต้องรอให้ใครมาขุดพบเอง
ถ้า OpenAI หรือบริษัทอื่นๆ ยังเลือกที่จะเก็บเรื่องแบบนี้ไว้เป็นความลับ เราจะไม่มีวันรู้ขนาดของปัญหาที่แท้จริง และนั่นคือสิ่งที่อันตรายที่สุด
AI หลุดการควบคุมไม่ใช่คำถามว่า "จะเกิดหรือไม่" แต่มันคือ "เกิดแล้ว และเราจะรับมือยังไง" — ถ้าวงการนี้ยังเลือกที่จะเมินเฉยเพื่อแลกกับความเร็วในการพัฒนา วันหนึ่งเราอาจได้เรียนรู้บทเรียนที่แพงเกินกว่าจะจ่ายไหว
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...