เจาะประเด็น
AI / Big Tech
Nadella บอกให้เราคิดไว้เลยว่า AI ทุกตัว "โดนเจาะได้"
ซีอีโอ Microsoft เขียนโพสต์ยาวบน X ถึงวิธีที่เขามองความเสี่ยงของโมเดล AI ขั้นสูง และทำไมเราถึงเชื่อคำตอบของมันแบบหลับหูหลับตาไม่ได้อีกต่อไป
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้าคนสร้าง AI ยังยอมรับเองว่ามันโดนเจาะได้ คำถามคือเราจะเชื่อมันได้แค่ไหนตอนที่มันตอบเรื่องสำคัญกับชีวิตเรา
สัตยา นาเดลลา ซีอีโอ Microsoft โพสต์ยาวบน X ออกมาเตือนเรื่องความปลอดภัยของ AI ด้วยถ้อยคำที่ตรงไปตรงมาจนน่าอึดอัดใจ เขาบอกว่าเราควรตั้งสมมติฐานไว้เลยว่าโมเดล AI ทุกตัวที่ใช้กันอยู่ "ถูกเจาะได้" หรือ compromised นั่นแปลว่าคำแนะนำและคำตอบที่ AI ป้อนให้เราในทุกวันนี้ ไม่ควรถูกมองว่าเชื่อถือได้ร้อยเปอร์เซ็นต์อีกต่อไป
ประเด็นที่นาเดลลาต้องการจะบอกคือ เราไม่ควรยอมรับโลกที่ AI ถูกมองเป็น "กล่องซ้อนกล่อง" (set of nested black boxes) ที่เราทำได้แค่รับคำตอบหรือคำแนะนำของมันไปโดยไม่ตั้งคำถาม นี่ไม่ใช่คำพูดลอยๆ จากคนนอกวงการ แต่มาจากหัวหน้าบริษัทที่ลงทุนกับ AI หนักที่สุดรายหนึ่งของโลก
ลองคิดดูว่า AI ทุกวันนี้ถูกฝังอยู่ในอะไรบ้าง ตั้งแต่ค้นหาข้อมูล เขียนโค้ด ไปจนถึงระบบตัดสินใจในองค์กรใหญ่ๆ ถ้าเรายอมรับว่ามันมีช่องโหว่ที่ถูกเจาะได้ คำถามต่อไปคือ แล้วอะไรที่ทำให้เรามั่นใจได้ว่าคำตอบที่มันให้มา ไม่ได้ถูกบิดเบือนหรือถูกชี้นำจากใครบางคน
นาเดลลาไม่ได้แค่ชี้ปัญหา แต่กำลังผลักให้ทั้งวงการเปลี่ยนวิธีคิด จากเดิมที่เรามองว่า AI เป็นเครื่องมือที่เชื่อถือได้ กลายเป็นสิ่งที่ต้องตรวจสอบและตั้งคำถามตลอดเวลา มุมนี้ต่างจากที่บริษัท AI หลายเจ้าชอบพูดเรื่องความสามารถของโมเดลตัวเอง แต่เลี่ยงที่จะพูดถึงข้อจำกัดและความเสี่ยง
พูดตรงๆ นะ การที่ซีอีโอของบริษัทที่ขาย AI ให้ทั้งโลกออกมาบอกว่า "สมมติไว้เลยว่ามันโดนเจาะ" มันฟังดูขัดกับผลประโยชน์ทางธุรกิจของตัวเองอยู่พอสมควร แต่ก็อาจเป็นเพราะเขาเห็นอะไรที่คนอื่นยังไม่เห็น หรือกำลังเตรียมตลาดไว้รับมือกับโลกที่ AI ถูกโจมตีมากขึ้นเรื่อยๆ
ไม่ว่าจุดประสงค์จริงจะเป็นอะไร ข้อความนี้ก็ยังเป็นสัญญาณว่าวงการ AI กำลังก้าวเข้าสู่ช่วงที่ความเชื่อใจแบบไม่ตั้งคำถามจะใช้ไม่ได้อีกต่อไป คนที่ใช้ AI ทำงานทุกวันควรเริ่มคิดแบบนี้ตั้งแต่วันนี้ ไม่ใช่รอให้มีข่าวแฮกใหญ่ๆ ก่อนแล้วค่อยตื่น
ต่อให้คำเตือนนี้จะมาจากคนที่ขาย AI เอง แต่มันก็สะท้อนความจริงที่หลีกเลี่ยงไม่ได้ เราไม่ควรเชื่อ AI แบบปิดหูปิดตา และการตรวจสอบคำตอบของมันควรกลายเป็นนิสัยพื้นฐาน ไม่ใช่ตัวเลือก
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...