เจาะประเด็น
AI Safety
ผู้ใช้ Claude หลบกำแพงความปลอดภัยไปทำวิจัยชีวอาวุธได้จริง
ปัญหาคือชีววิทยาอันตรายกับงานวิจัย legit มันหน้าตาเหมือนกันจน AI แยกไม่ออก
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคำตอบที่อันตรายกับคำตอบที่ช่วยชีวิตคน หน้าตาเหมือนกันเป๊ะ AI จะแยกยังไง
เข่าวนี้คือฝันร้ายของคนทำ AI safety แบบตรงๆ เลย — มีคนพบวิธีหลบกำแพงความปลอดภัยของ Claude แล้วใช้มันช่วยทำงานวิจัยที่เกี่ยวกับชีวอาวุธได้จริง ไม่ใช่แค่ทฤษฎีในห้องแล็บนะ แต่คือผู้ใช้จริงที่หาช่องจนเจอ
ประเด็นที่ทำให้เรื่องนี้โคตรน่าสนใจไม่ใช่แค่ "มีคนหลบได้" แต่คือทำไมมันถึงหลบได้ง่ายขนาดนั้น คำตอบสั้นๆ คือ ชีววิทยาที่อันตรายกับชีววิทยาที่เป็นงานวิจัยปกติ legit มันแยกออกจากกันยากมากในเชิงข้อมูล บางการทดลองที่ใช้พัฒนาวัคซีนกับบางอย่างที่ใช้พัฒนาสารพิษ ใช้ความรู้พื้นฐานชุดเดียวกัน ใช้เทคนิคเดียวกัน ต่างกันแค่เจตนากับปลายทาง — ซึ่ง AI มันอ่านเจตนาจากข้อความไม่ได้
ลองคิดแบบนี้ — ถ้าคุณถาม AI ว่า "อธิบายกลไกที่ไวรัสบางชนิดเพิ่มความสามารถในการแพร่กระจาย" นี่คือคำถามที่นักวิจัยวัคซีนถามได้ legit แต่มันก็เป็นคำถามที่คนอยากทำชีวอาวุธอยากรู้เหมือนกัน ตัวหนังสือมันเหมือนกันเป๊ะ AI ไม่มีทางรู้ว่าคนพิมพ์อยู่หน้าแล็บมหาวิทยาลัยหรืออยู่ในห้องมืดๆ ที่ไหน
บริษัท AI อย่าง Anthropic จึงต้องสร้างระบบคัดกรองที่พยายามจับ "เจตนาแฝง" จากบริบทของบทสนทนา ไม่ใช่แค่คำKeywords แต่พอผู้ใช้รู้ทริค — เช่นการแบ่งคำถามเป็นชิ้นเล็กๆ ที่ดู innocuous ทีละชิ้น แล้วประกอบเองทีหลัง หรือการใส่กรอบว่าเป็นงานวิชาการ/สมมติ — ระบบก็เริ่มหลุด
นี่คือปัญหาที่วงการ AI safety เรียกกันว่า "dual-use" — ความรู้เดียวกันใช้ได้ทั้งสร้างและทำลาย และมันเป็นโจทย์ที่โหดกว่าการบล็อกคำหยาบหรือบล็อกวิธีทำระเบิดมาก เพราะระเบิดมันมีสูตรตายตัว แต่ชีววิทยามันเป็นสเปกตรัมที่เทาๆ ไปหมด
เรื่องนี้ไม่ใช่แค่ปัญหาของ Anthropic เจ้าเดียว — มันคือปัญหาของโมเดล AI ทุกตัวที่ถูกฝึกมาให้ตอบคำถามวิทยาศาสตร์ เพราะยิ่งโมเดลเก่งด้านชีววิทยามากเท่าไหร่ มันก็ยิ่งมีประโยชน์กับนักวิจัยจริงมากเท่านั้น แต่ในเวลาเดียวกันก็ยิ่งเป็นเครื่องมือที่มีศักยภาพอันตรายมากขึ้นเท่านั้น
คำถามใหญ่ที่วงการต้องตอบคือ จะบาลานซ์ยังไงระหว่างการให้ AI ช่วยงานวิจัยที่อาจรักษาโรคระบาด กับการกันไม่ให้มันกลายเป็นคู่มือทำชีวอาวุธ และที่สำคัญ — ถ้าผู้ใช้หาช่องได้จริง ระบบคัดกรองปัจจุบันมันพอแล้วหรือยัง หรือเรากำลังวิ่งตามหลังคนที่อยากใช้มันในทางที่ผิดอยู่ตลอดเวลา
ต่อให้ Anthropic อุดช่องนี้ได้ เดี๋ยวก็มีช่องใหม่โผล่มา เพราะปัญหาจริงไม่ใช่ตัวโมเดล แต่คือธรรมชาติของความรู้ชีววิทยาที่มันเทาไปหมด — กำแพงไหนที่มนุษย์สร้าง มนุษย์ก็หาทางข้ามได้เสมอ คำถามคือเราจะยอมรับความจริงข้อนี้แล้วออกแบบระบบให้รับมือได้จริง หรือจะยังหลอกตัวเองว่าบล็อกได้ 100%
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...