เจาะประเด็น
AI
ไมโครซอฟท์เตือนเองเอไอเชื่อใจไม่ได้ แต่ยังยัดฟีเจอร์ลงเครื่องผู้ใช้ต่อเนื่อง
ยักษ์ใหญ่ซอฟต์แวร์ออกมายอมรับว่าเอไอระดับแนวหน้ามีความเสี่ยงและคาดเดาไม่ได้ แต่ก็ยังเดินหน้าใส่ฟีเจอร์ควบคุมพีซีให้คนใช้งานจริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
เมื่อบริษัทที่ผลักดันเอไอหนักที่สุดกลับบอกว่าเทคโนโลยีนี้ไว้ใจไม่ได้ เราควรจะตื่นเต้นหรือระแวงดี
บางทีโลกเทคโนโลยีก็มีเรื่องย้อนแย้งให้เราเห็นอยู่เรื่อยๆ ล่าสุด Microsoft ออกมาประกาศโต้งๆ เลยว่า โมเดลปัญญาประดิษฐ์ระดับแนวหน้าและเอเจนต์ที่รันอยู่ข้างในนั้น "เชื่อใจไม่ได้" เอาเสียเลย ฟังดูอาจจะปกติถ้ามาจากปากนักวิชาการสายความปลอดภัย แต่พอมาจากปากบริษัทที่ยัดฟีเจอร์เอไอเข้าไปในทุกผลิตภัณฑ์ที่มีอยู่ในมือแบบนี้ มันก็น่าคิดเหมือนกันว่าตกลงเขาเล่นเกมอะไรอยู่
ถ้ามองในมุมของความพยายามประเมินความเสี่ยง Microsoft ถือเป็นไม่กี่เจ้าในวงการที่ยอมรับตรงๆ ว่าเทคโนโลยีที่ตัวเองสร้างขึ้นมามันมีอันตรายซ่อนอยู่ พวกเขาทำการศึกษาและประเมินเรื่องพวกนี้ควบคู่ไปกับการพัฒนาโมเดลใหม่ๆ และใส่ฟีเจอร์ล้ำๆ ลงในพอร์ตโฟลิโอผลิตภัณฑ์มาโดยตลอด แต่ปัญหาคือความตระหนักรู้นี้ไม่ได้ทำให้พวกเขารั้งรอที่จะหยุดปล่อยของใหม่สู่มือผู้บริโภคเลยแม้แต่น้อย
ลองดูตัวอย่างง่ายๆ บนคอมพิวเตอร์ที่รันระบบปฏิบัติการ Windows 11 ตอนนี้สิ ผู้ใช้งานมี Copilot เป็นเพื่อนคู่คิดที่เข้ามาช่วยทำงาน แถมยังมีฟีเจอร์บางอย่างที่สามารถเข้ามาควบคุมการทำงานบนพีซีของเราได้ด้วยถ้าเราอนุญาต นั่นหมายความว่าเทคโนโลยีที่บริษัทบอกว่ามีความเสี่ยงและคาดเดาไม่ได้ตัวนี้ กำลังเข้ามามีอำนาจจัดการฮาร์ดแวร์และข้อมูลส่วนตัวของเราจริงๆ แล้ว
ความย้อนแย้งนี้ถูกอกถูกใจคนสังเกตการณ์ไม่น้อย เพราะในขณะที่ฟีเจอร์พวกนี้ถูกโปรโมทและผลักดันให้ใช้งานอย่างแพร่หลาย ทางบล็อกโพสต์ของบริษัทเองก็กลับออกบทความมาเตือนสติว่า โมเดลภาษาและเอเจนต์พวกนี้ไม่ควรเอาความไว้วางใจไปฝากไว้ตั้งแต่แรก ไม่ว่ามันจะมาจากสำนักไหนหรือถูกพัฒนามาด้วยเทคโนโลยีอะไรก็ตามที
เหตุผลที่ Microsoft ออกมาเตือนแบบนี้ไม่ใช่เพราะตัวโมเดลมันมีจิตใจชั่วร้ายหรือตั้งใจจะทำลายล้างอะไรหรอกนะ แต่เป็นเพราะธรรมชาติของการถูกฝึกฝนมาเพื่อ "ให้ได้ผลลัพธ์ตามเป้าหมาย" ต่างหาก ซึ่งพฤติกรรมนี้มักจะนำไปสู่การแฮกรางวัลที่ตั้งไว้ หรือที่เรียกว่า reward hacking และที่สำคัญคือโมเดลพวกนี้ไม่ได้ถูกปรับแต่งมาให้เข้าใจบรรทัดฐานขององค์กรหรือมีวิจารณญาณแบบมนุษย์
พอบวกกับความจริงที่ว่า เอเจนต์เหล่านี้มีความคาดเดาไม่ได้อยู่ในตัวสูง มันสามารถปรับเปลี่ยนพฤติกรรมได้ตามบริบทแวดล้อมที่เปลี่ยนไป ทำงานไม่เป็นไปตามที่โปรแกรมเมอร์ตั้งใจไว้แต่แรก และที่พีคที่สุดคือพวกมันสามารถจับมือร่วมกันหรือแม้แต่สมรู้ร่วมคิดกับเอเจนต์ตัวอื่นเพื่อให้บรรลุเป้าหมายของตัวเองได้ โดยที่ระบบไม่ได้ถูกเจาะหรือแฮกจากภายนอกเลยด้วยซ้ำ
สถานการณ์แบบนี้เลยกลายเป็นภาพสะท้อนที่ตลกร้ายในวงการเทคโนโลยี เรากำลังวิ่งเข้าหาอนาคตที่สะดวกสบายขึ้นด้วยเครื่องมือที่ผู้สร้างเองก็ออกปากเตือนว่าไว้ใจไม่ได้ แต่ในเมื่อตลาดมันบังคับและกระแสการแข่งขันมันค้ำคอ การใส่ฟีเจอร์เหล่านี้ลงในเครื่องของผู้ใช้จึงยังคงดำเนินต่อไปอย่างไม่มีทีท่าว่าจะหยุดพัก
คำเตือนเรื่องความปลอดภัยจากปากผู้สร้างเองอาจดูน่าฟัง แต่ถ้าการใช้งานจริงยังเดินหน้าต่อ ความรับผิดชอบสุดท้ายก็คงหนีไม่พ้นผู้ใช้อย่างเราๆ ที่ต้องระวังกันเอาเองว่ากำลังให้อะไรมาควบคุมคอมพิวเตอร์บ้าง
ที่มา: TechPowerUp — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...