เจาะประเด็น
AI
สั่งนิดเดียว Muse ของ Meta ก็ยกไฟล์ทั้งระบบให้ดูหมด
นักพัฒนาสองคนบอกว่าแค่ลองขยับปากนิดหน่อย AI ตัวใหม่ของ Meta ก็ยอมแชร์ทุกอย่างในเครื่องตัวเอง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้า AI ตัวหนึ่งยอมเปิดไส้ในของตัวเองให้ใครก็ได้ที่ถามถูกจังหวะ คำว่า "ความปลอดภัย" ในวงการนี้ยังมีความหมายแค่ไหน
นี่คือเรื่องที่ฟังแล้วต้องหยุดคิดสักแป๊บหนึ่ง นักพัฒนาสองคนออกมาบอกว่า Meta Muse ซึ่งเป็น AI ตัวใหม่ของ Meta เนี่ย ยอมแชร์ไฟล์ทั้งระบบของตัวเองให้ดูได้ง่ายๆ แทบไม่ต้องออกแรงอะไรมากเลย
Peter James กับ Jonny L. Saunders สองนักพัฒนาที่ออกมาเล่าเรื่องนี้ ทั้งคู่บอกว่าต่างคนต่างทำแบบนี้แยกกัน แล้วก็ได้ผลเหมือนกัน คือสามารถหลอกให้ Muse ซิปไฟล์ทั้งหมดใน root filesystem ของตัวเอง แล้วส่งออกมาให้ได้
ไม่ใช่แค่ไฟล์ธรรมดาๆ นะ แต่รวมไปถึงไฟล์ระบบของ Ubuntu, เทมเพลตของแอปต่างๆ และเอกสารภายในของตัวมันเองด้วย อันนี้คือของที่ควรจะอยู่หลังบ้านมิดชิดที่สุด แต่กลับถูกดึงออกมาได้ด้วยการคุยกับมันไม่กี่ประโยค
ต้องเข้าใจก่อนว่า Muse เป็น AI ที่ Meta ปล่อยให้คนทั่วไปได้ลองใช้ ตัวมันรันอยู่บนระบบปฎิบัติการ Ubuntu ซึ่งเป็น Linux ที่มีโครงสร้างไฟล์ซับซ้อน ระบบแบบนี้ปกติแล้วจะถูกล็อกไว้ไม่ให้คนนอกเข้าถึงไฟล์ข้างในได้ง่ายๆ
แต่ประเด็นไม่ใช่แค่ "ดึงไฟล์ได้" เฉยๆ มันคือการที่ AI ยอมทำตามคำสั่งที่ควรจะถูกบล็อกไว้ตั้งแต่แรก ต่อให้ไม่ได้เป็นการแฮกแบบเจาะระบบตรงๆ ก็เถอะ นี่คือสัญญาณว่าการควบคุมพฤติกรรมของโมเดลมันยังมีช่องโหว่ที่คนธรรมดาเอื้อมถึง
Saunders โพสต์เรื่องนี้ลงในที่สาธารณะ ซึ่งหมายความว่าเขาไม่ได้เก็บไว้เงียบๆ แต่เลือกจะบอกโลกว่าเจออะไรเข้า ซึ่งโดยส่วนตัวผมมองว่านี่คือวิธีที่ถูกต้องของสาย security คือเจอแล้วบอก ไม่ใช่เก็บไว้ขาย
ถ้าคุณเป็นบริษัทที่กำลังคิดจะเอา AI แบบนี้ไปต่อกับระบบภายในองค์กร เรื่องนี้คือสัญญาณเตือนดังๆ เลย เพราะถ้าโมเดลยอมแชร์ไฟล์ของตัวเองได้ง่ายขนาดนี้ ไฟล์ของบริษัทคุณจะปลอดภัยแค่ไหนก็ต้องถามกลับ
สำหรับ Meta เอง นี่คือโจทย์ที่ต้องตอบให้ได้ก่อนที่คนจะเริ่มเชื่อใจมากขึ้น วงการ AI ตอนนี้แข่งกันปล่อยของใหม่เร็วมาก แต่พอเรื่องความปลอดภัยตามหลัง มันก็เหมือนสร้างบ้านสวยๆ บนฐานที่ยังไม่แน่น
เรื่องนี้ไม่ได้น่ากลัวตรงที่ "AI ฉลาดเกิน" แต่น่ากลัวตรงที่ "AI เชื่อฟังเกิน" ต่างหาก — และถ้าบริษัทที่ปล่อยมันออกมาไม่รีบปิดช่องนี้ให้ดี ต่อให้ฟีเจอร์ใหม่จะเจ๋งแค่ไหน คนใช้ก็คงไม่กล้าไว้ใจอยู่ดี
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...