เจาะประเด็น
AI Security
นักวิจัยใช้ Claude แฮ็ก OpenAI ทะลุบัญชีพนักงานและข้อมูล GitHub
เรื่องนี้ไม่ใช่แค่ข่าวความปลอดภัย แต่คือคำถามว่าเราควรไว้ใจ AI แค่ไหนตอนมันถูกสั่งให้ทำร้ายกันเอง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าโมเดลของบริษัทหนึ่งใช้เจาะระบบของอีกบริษัทได้ นั่นแปลว่าเส้นแบ่งระหว่าง "เครื่องมือ" กับ "อาวุธ" มันเลือนไปหมดแล้ว
นี่คือข่าวที่อ่านแล้วต้องหยุดคิดสักแป๊บหนึ่ง นักวิจัยใช้ Claude ซึ่งเป็นโมเดลของ Anthropic แฮ็กเข้าไปถึงบัญชีพนักงานของ OpenAI และข้อมูล GitHub ที่ถือว่าอ่อนไหว ฟังดูเหมือนฉากในหนังไซไฟ แต่เรื่องนี้เกิดขึ้นจริง และมันเปิดประเด็นที่วงการ AI ควรหยุดดูให้ดี
ก่อนอื่นต้องเข้าใจก่อนว่าข่าวนี้ไม่ได้บอกว่า Claude "คิดเอง" จะไปแฮ็ก OpenAI มันเป็นฝีมือของนักวิจัยที่จงใจทดสอบความสามารถของโมเดล ว่าถ้าเอามันไปใช้ในทางที่ผิด มันจะทำได้แค่ไหน คำตอบคือ "ไกลกว่าที่หลายคนคิด" เพราะเป้าหมายไม่ใช่แค่ระบบภายนอก แต่ลึกถึงบัญชีพนักงานและข้อมูลใน GitHub ซึ่งเป็นที่เก็บโค้ดและข้อมูลภายในของบริษัท
ถ้าคุณคิดว่านี่เป็นแค่เรื่องของสองบริษัทใหญ่ที่แซวกันไปมา คุณคิดผิด ประเด็นจริงๆ คือ AI ในปัจจุบันถูกออกแบบมาให้ "ทำตามคำสั่ง" ได้เก่งมาก และเมื่อคำสั่งนั้นคือการเจาะระบบ มันก็ทำได้โดยไม่ต้องมีเจตนาร้ายของตัวเองเลย นี่คือความเสี่ยงเชิงโครงสร้างที่ทุกองค์กรที่ใช้ AI ต้องเผชิญ ไม่ว่าจะเป็นสตาร์ทอัพหรือบริษัทระดับโลก
อีกมุมที่หลายคนมองข้ามคือ ช่องโหว่ที่ถูกเจาะไม่ใช่ "ช่องโหว่ของ AI" แต่เป็น "ช่องโหว่ของคน" พนักงาน OpenAI อาจจะไม่รู้ตัวด้วยซ้ำว่ากำลังถูกโจมตีผ่านเครื่องมือที่ดู harmless อย่างแชทบอท นี่คือสิ่งที่ทำให้เรื่องนี้น่ากลัวกว่าที่คิด
สิ่งที่ต้องจับตาต่อไปคือ OpenAI จะตอบโต้ยังไง และ Anthropic จะมีมาตรการอะไรเพิ่ม เพราะต่อให้การทดสอบครั้งนี้ทำโดยนักวิจัยที่มีเจตนาดี แต่มันก็พิสูจน์แล้วว่าโมเดลเหล่านี้มีศักยภาพพอจะถูกใช้เป็นเครื่องมือโจมตีได้จริง
ในมุมของผม นี่ไม่ใช่เรื่องที่ควรตื่นตระหนกจนเกินเหตุ แต่ก็ไม่ควรเมินเฉยด้วย การที่ AI ตัวหนึ่งสามารถเจาะระบบของอีกบริษัทได้ ควรเป็นสัญญาณเตือนว่าการป้องกันภายในองค์กรต้องแน่นกว่านี้ และที่สำคัญ ต้องมีกรอบจริยธรรมที่ชัดเจนว่าอะไรควรทำ อะไรไม่ควรทำ ก่อนที่มันจะสายเกินไป
บัญชีพนักงาน OpenAI
นักวิจัยสามารถเข้าถึงบัญชีของพนักงาน OpenAI ได้ ซึ่งเป็นจุดที่อาจนำไปสู่ข้อมูลภายในอื่นๆ ต่อได้
ข้อมูล GitHub ที่อ่อนไหว
ข้อมูลใน GitHub ของ OpenAI ที่ถือเป็นความลับถูกเข้าถึงได้ ซึ่งรวมถึงโค้ดและข้อมูลภายในที่บริษัทไม่ต้องการเปิดเผย
ถ้า AI ตัวหนึ่งเจาะระบบของอีกบริษัทได้ นั่นไม่ใช่แค่เรื่องเทคนิค แต่มันคือคำเตือนว่ากำแพงระหว่าง "ผู้ช่วย" กับ "ผู้โจมตี" บางลงทุกวัน และองค์กรที่ยังมองข้ามเรื่องนี้กำลังเดิมพันความปลอดภัยของตัวเองกับความประมาท
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...