เจาะประเด็น
Security
ช่องโหว่ในฟีเจอร์พรีวิว HTML ของ ChatGPT ที่เปิดทางให้แฮกเกอร์เจาะระบบได้
เมื่อลิงก์แชร์ธรรมดาอาจกลายเป็นทางด่วนให้คนอื่นเข้ามาสูบข้อมูลส่วนตัวในบัญชีเราได้แบบเนียนๆ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ความปลอดภัยของระบบไอทีไม่มีคำว่าร้อยเปอร์เซ็นต์ ต่อให้เป็นแพลตฟอร์มยักษ์ใหญ่ก็ยังพลาดท่าให้กับการต่อจิ๊กซอว์ช่องโหว่เล็กๆ ได้
ระบบความปลอดภัยของ AI ยักษ์ใหญ่โดนทดสอบครั้งสำคัญอีกแล้ว เมื่อทีมนักวิจัยจาก Parameter Labs ออกมาเปิดเผยถึงช่องโหว่สุดแสบที่พวกเขาค้นพบใน ChatGPT ซึ่งเปิดทางให้ผู้ไม่หวังสามารถเข้ามาควบคุมบัญชีผู้ใช้ได้ผ่านทางฟีเจอร์แสดงผล HTML แบบอินเทอร์แอกทีฟ
เรื่องมันเริ่มจากแนวคิดเรื่อง artifacts หรือที่ OpenAI เคยเรียกว่า Canvas ก่อนจะปรับเปลี่ยนมาเป็นระบบพรีวิว HTML ที่ให้เราเห็นโค้ดแอปพลิเคชันทำงานกันสดๆ ในกรอบ iframe แนวคิดนี้มันดีแหละเพราะช่วยให้เห็นภาพชัดเจน แต่ความท้าทายคือทำยังไงไม่ให้โค้ดพวกนี้ทะลวงออกไปยุ่งกับระบบหลังบ้านหรือขโมยข้อมูลลับของคนใช้งานได้
ทีมนักวิจัยเขาไม่ได้ใช้ช่องโหว่แบบตูมเดียวจบ แต่ใช้วิธีต่อจิ๊กซอว์หลายขั้นตอนจนสำเร็จ จุดเริ่มต้นมันอยู่ที่ไลบรารี JavaScript ตัวหนึ่งชื่อ MathLive ที่ OpenAI เอามาช่วยเรื่องกราฟ ซึ่งในตัวมันดันมีคีย์บอร์ดเสมือนที่ถูกเรียกใช้งานจากหน้าหลักผ่านคำสั่ง postMessage ได้จากในกรอบ iframe อีกที
ความซวยอยู่ตรงที่โค้ดรับข้อความดันใช้ innerHTML แบบไม่มีการป้องกันที่ดีพอ เปิดช่องให้ใครก็ตามที่ส่งข้อความเข้ามาสามารถยัด HTML แปลกปลอมใส่หน้าหลักได้ และตัวกรอบ iframe อื่นๆ ก็ดันเรียกใช้งานช่องทางนี้ได้เหมือนกันซะงั้น
แม้ว่า innerHTML จะสั่งรันสคริปต์ตรงๆ ไม่ได้ แต่พวกเขาก็หัวใสพอที่จะใช้มันสร้างกรอบ iframe อันใหม่ขึ้นมาแบบไม่มีการจำกัดสิทธิ์ความปลอดภัยใดๆ ทั้งสิ้น
ทาง OpenAI เองก็ไม่ได้ปล่อยปละละเลยซะทีเดียว เพราะมีกฎ CSP คอยบล็อกสคริปต์แปลกปลอมและจำกัดโดเมนที่จะโหลดโค้ด แต่ปัญหาคือหนึ่งในโดเมนที่ได้รับอนุญาตดันเป็น YouTube oEmbed ซึ่งช่องทางนี้ดันเปิดช่องให้สะท้อนโค้ด JavaScript กลับมาทำงานได้พอดีเป๊ะ
พอเอาโค้ดมารันบน ChatGPT ได้สำเร็จ ทุกอย่างก็กลายเป็นเรื่องง่ายทันที เพราะสามารถดึงข้อมูลส่วนตัวจาก API แล้วส่งออกไปเงียบๆ ผ่านลิงก์รูปภาพได้แบบชิลๆ ผลลัพธ์สุดท้ายคือแค่วางลิงก์แชร์ของ ChatGPT ไว้ แล้วมีเหยื่อที่ล็อกอินอยู่กดเข้ามาเข้าชม ข้อมูลส่วนตัวก็ปลิวหายแถมโดนแอบทำธุรกรรมแทนได้สบายๆ
ตอนนี้ทาง OpenAI จัดการอุดรูรั่วนี้เรียบร้อยแล้ว พร้อมทั้งจ่ายเงินรางวัลบั๊กเบ้าท์รี่ให้ 5,000 ดอลลาร์ ซึ่งถ้ามองในมุมของความรุนแรงระดับนี้ หลายคนก็แอบคิดเหมือนกันว่ามันอาจจะน้อยไปหน่อยสำหรับความเสี่ยงที่เจอ
ช่องโหว่นี้เตือนใจเราดีว่าระบบที่ซับซ้อนมักมีรอยต่อคาดไม่ถึงซ่อนอยู่ และการแชร์ลิงก์อะไรในยุคนี้ต้องระวังตัวให้มากขึ้นกว่าเดิมเยอะ
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...