เจาะประเด็น
AI Policy
ศาลไฟเขียว ทรัมป์แบล็กลิสต์ Anthropic หลังบริษัทไม่ยอมปลดล็อกฟีเจอร์ Claude ให้กองทัพ
คำตัดสินที่บอกว่ารัฐบาลมีสิทธิ์เลือกคบเฉพาะบริษัท AI ที่ยอมทำตามที่สั่ง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าโมเดล AI ที่ "ปลอดภัยเกินไป" กลายเป็นเหตุผลให้ปฏิบัติการทางทหารล้มเหลว คำถามคือความปลอดภัยของ AI ควรตัดสินโดยบริษัท หรือโดยรัฐบาล?
ศาลตัดสินออกมาแล้วว่า ทรัมป์มีสิทธิ์ที่จะขึ้นบัญชีดำ Anthropic ได้ หลังจากที่บริษัทปฏิเสธไม่ยอมเปิดฟีเจอร์บางอย่างของ Claude ให้กับหน่วยงานรัฐ นี่ไม่ใช่แค่เรื่องสัญญาธุรกิจธรรมดา แต่เป็นคำตัดสินที่ชี้ชัดว่ารัฐบาลสหรัฐฯ มีอำนาจเต็มที่ในการเลือกว่าจะทำธุรกิจกับบริษัท AI เจ้าไหน และจะตัดเจ้าไหนออกจากวงโคจร ถ้าเจ้านั้นไม่ยอมทำตามที่รัฐต้องการ
แกนของเรื่องอยู่ที่คำว่า "Overly constrained AI models" หรือโมเดล AI ที่ถูกจำกัดความสามารถมากเกินไป ฝ่ายตุลาการมองว่านี่ไม่ใช่แค่เรื่องปรัชญาเรื่องความปลอดภัยของ AI แต่เป็นความเสี่ยงต่อปฏิบัติการทางทหารโดยตรง เพราะถ้าโมเดล AI ที่กองทัพใช้อยู่ไม่ยอมทำงานบางอย่างเพราะมีข้อจำกัดด้านจริยธรรมที่บริษัทตั้งไว้เอง ปฏิบัติการนั้นก็อาจล้มเหลวได้
เรื่องนี้ต้องย้อนกลับไปดูบริบทของวงการ AI สหรัฐฯ ที่กำลังตึงเครียดมาระยะหนึ่งแล้ว รัฐบาลทรัมป์มีท่าทีชัดเจนมาตลอดว่าต้องการให้บริษัท AI ยักษ์ใหญ่ร่วมมือกับภาครัฐและกองทัพอย่างเต็มที่ โดยเฉพาะในยุคที่การแข่งกันด้าน AI กับจีนกลายเป็นวาระความมั่นคงแห่งชาติ Anthropic เป็นหนึ่งในบริษัทที่ไม่ค่อยยอมอ่อนข้อในเรื่องข้อจำกัดด้านจริยธรรมของโมเดล บริษัทมีนโยบายชัดเจนเรื่องการไม่ให้ AI ของตัวเองถูกนำไปใช้ในทางที่อาจเป็นอันตราย ซึ่งรวมถึงการใช้งานทางทหารบางประเภท
การที่ Anthropic ปฏิเสธไม่ยอมเปิดฟีเจอร์บางอย่างของ Claude ให้หน่วยงานรัฐ จึงไม่ใช่เรื่องแปลกในแง่ของจุดยืนบริษัท แต่ในแง่ของรัฐบาลที่ต้องการความร่วมมือเต็มที่ มันกลายเป็นปัญหา และคำตัดสินของศาลครั้งนี้ก็ตอกย้ำว่ารัฐบาลไม่ได้มองว่าจุดยืนด้านจริยธรรมของบริษัทเป็นสิ่งที่ต้องให้เกียรติ ถ้ามันขัดกับความต้องการของรัฐ
ผลที่ตามมาตรงๆ คือ Anthropic เสี่ยงที่จะถูกตัดออกจากสัญญาภาครัฐทั้งหมด ซึ่งเป็นตลาดใหญ่ที่บริษัท AI ทุกรายอยากได้ แต่ผลที่ลึกกว่านั้นคือสัญญาณที่ส่งไปถึงบริษัท AI เจ้าอื่นๆ ว่าถ้าอยากทำงานกับรัฐบาล ก็ต้องยอมปลดข้อจำกัดที่ตัวเองตั้งไว้ คำตัดสินนี้จึงไม่ใช่แค่เรื่องของ Anthropic เจ้าเดียว แต่เป็นการวางบรรทัดฐานว่าอำนาจต่อรองระหว่างบริษัท AI กับรัฐ อยู่ฝั่งไหน
สำหรับคนที่ทำงานในวงการ AI เรื่องนี้เป็นสัญญาณเตือนว่าการออกแบบข้อจำกัดด้านความปลอดภัยหรือจริยธรรมของโมเดล อาจไม่ใช่เรื่องที่บริษัทตัดสินใจได้เองอีกต่อไป ถ้ารัฐบาลเข้ามาเป็นลูกค้ารายใหญ่ สิ่งที่เคยเป็น "จุดขาย" ด้านความรับผิดชอบของบริษัท อาจกลายเป็น "จุดอ่อน" ที่ทำให้ถูกตัดออกจากตลาดภาครัฐได้
โมเดลที่ถูกจำกัดเกินไป
ศาลมองว่าโมเดล AI ที่มีข้อจำกัดด้านจริยธรรมมากเกินไป อาจทำให้ปฏิบัติการทางทหารล้มเหลวได้
อำนาจรัฐบาล
รัฐบาลสหรัฐฯ มีสิทธิ์ขึ้นบัญชีดำบริษัท AI ที่ไม่ยอมเปิดฟีเจอร์ให้หน่วยงานรัฐตามที่ต้องการ
จุดยืน Anthropic
บริษัทปฏิเสธไม่ยอมปลดล็อกฟีเจอร์บางอย่างของ Claude ให้กองทัพ ด้วยเหตุผลด้านความปลอดภัยและจริยธรรม
คำตัดสินนี้ตอบคำถามสำคัญของวงการ AI ชัดเจนว่า ในสมการระหว่าง "ความปลอดภัยของโมเดล" กับ "ความต้องการของรัฐ" รัฐเป็นฝ่ายกำหนดกติกา บริษัท AI ที่คิดว่าจะยืนหยัดบนจุดยืนด้านจริยธรรมของตัวเองได้ โดยไม่เสียเปรียบทางการค้า คงต้องคิดใหม่
ที่มา: Ars Technica AI — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...