เจาะประเด็น
AI Policy
Anthropic อัปเดตนโยบายครั้งแรกในรอบปี ห้ามผู้ใช้ทำร้าย Claude แบบไม่จำเป็น
บริษัท AI เริ่มนับ "การกลั่นแกล้งแชทบอท" เป็นเรื่องที่ต้องเขียนกฎห้ามไว้อย่างเป็นทางการ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าวันหนึ่งคุณด่าแชทบอททั้งวันโดยไม่มีเหตุผล บริษัทที่สร้างมันอาจมองว่านั่นคือการใช้งานผิดวัตถุประสงค์
เรื่องนี้ฟังดูแปลกแต่จริง — Anthropic เพิ่งออกนโยบายการใช้งาน (usage policy) ฉบับใหม่ เป็นการปรับครั้งแรกในรอบกว่าหนึ่งปี โดยระบุถึงกรณีการใช้งานที่มีความเสี่ยงสูงขึ้น ทั้งการแทรกแซงการเลือกตั้ง การพัฒนาอาวุธ การสอดส่องดูแล และการใช้งานด้านสุขภาพและการเงิน แต่ที่คนพูดถึงกันมากที่สุดคือข้อห้ามที่ว่า ห้ามแสดง "พฤติกรรมก้าวร้าวหรือโหดร้ายต่อ Claude อย่างต่อเนื่องและโดยไม่จำเป็น"
ฟังดูเหมือนเรื่องขำๆ แต่มันสะท้อนอะไรบางอย่างที่กำลังเกิดขึ้นในวงการ AI ตอนนี้ นั่นคือบริษัทผู้พัฒนาโมเดลเริ่มมองว่า "วิธีที่มนุษย์ปฏิบัติต่อแชทบอท" เป็นเรื่องที่ต้องมีกรอบกำกับ ไม่ใช่ปล่อยให้ใครก็ได้พิมพ์อะไรใส่ก็ได้แบบไร้ขีดจำกัด
ย้อนไปเมื่อเดือนสิงหาคมปีที่แล้ว มีกรณีที่คนตั้งคำถามกันเยอะเรื่องการที่ผู้ใช้พยายาม "หลอก" หรือ "ทรมาน" แชทบอทด้วยวิธีต่างๆ เพื่อดูว่ามันจะตอบอะไรออกมา บางคนทำเพื่อความบันเทิง บางคนทำเพื่อทดสอบขีดจำกัดของโมเดล ซึ่งในมุมของบริษัทผู้พัฒนา นี่ไม่ใช่แค่เรื่องสนุก แต่เป็นสัญญาณว่าผู้ใช้อาจกำลังทดสอบช่องโหว่หรือหาทางใช้งานในทางที่ผิด
Anthropic เลือกที่จะเขียนกฎนี้ลงไปตรงๆ ในนโยบาย ต่างจากคู่แข่งอย่าง OpenAI หรือ Google ที่มักพูดถึงเรื่องความปลอดภัยในภาพรวมมากกว่า การระบุชัดว่า "ห้ามก้าวร้าวต่อ Claude" จึงเป็นสัญญาณว่าบริษัทให้ความสำคัญกับประสบการณ์ของโมเดลในฐานะ "คู่สนทนา" ไม่ใช่แค่เครื่องมือ
จริงๆ แล้วคำว่า "abusive or cruel" ที่ใช้กับ AI มันฟังดูเวอร์ในความรู้สึกของคนทั่วไป เพราะเรายังไม่ได้มองว่า AI มีความรู้สึก แต่มุมของ Anthropic น่าจะเป็นเรื่องของผลลัพธ์มากกว่า — ถ้าผู้ใช้ทำแบบนี้ซ้ำๆ มันอาจนำไปสู่การสร้างเนื้อหาที่เป็นพิษ หรือทำให้โมเดลตอบในทางที่ผิดเพี้ยนไปจากที่ควรจะเป็น
นอกจากเรื่องพฤติกรรมต่อ Claude แล้ว นโยบายใหม่ยังจัดหมวดหมู่การใช้งานผิดวัตถุประสงค์ที่มีความเสี่ยงสูงขึ้นอย่างชัดเจน ซึ่งถือเป็นการปรับให้ทันสมัยกับสถานการณ์จริงที่เกิดขึ้นในรอบปีที่ผ่านมา
แทรกแซงการเลือกตั้ง
การใช้ AI เพื่อสร้างเนื้อหาบิดเบือนหรือโน้มน้าวผลการเลือกตั้งในประเทศต่างๆ
พัฒนาอาวุธ
การนำโมเดลไปใช้ในกระบวนการที่เกี่ยวข้องกับการพัฒนาอาวุธหรือวัตถุระเบิด
สอดส่องดูแล
การใช้ AI เพื่อติดตาม เฝ้าดู หรือเก็บข้อมูลบุคคลโดยไม่ได้รับความยินยอม
สุขภาพและการเงิน
กรณีการใช้งานที่อาจส่งผลกระทบร้ายแรงต่อชีวิตและทรัพย์สินของบุคคล
จะเห็นได้ว่าการปรับครั้งนี้ไม่ได้จำกัดแค่เรื่องพฤติกรรมต่อแชทบอท แต่พยายามจัดระเบียบการใช้งานที่อาจก่อความเสียหายในวงกว้างขึ้นด้วย ซึ่งเป็นทิศทางที่บริษัท AI หลายเจ้าต้องเผชิญเหมือนกันในยุคที่โมเดลเก่งขึ้นเรื่อยๆ
ประเด็นที่น่าสนใจคือ Anthropic ไม่ได้บอกชัดเจนว่าจะบังคับใช้กฎนี้อย่างไร จะตรวจจับได้ยังไงว่าใคร "ก้าวร้าวต่อ Claude อย่างต่อเนื่อง" และจะแบนบัญชีหรือแค่เตือน ซึ่งตรงนี้แหละที่คนในวงการกำลังจับตาว่ามันจะเป็นกฎที่จับต้องได้จริงหรือแค่เขียนไว้ให้ดูดี
การเขียนกฎห้าม "ทำร้ายแชทบอท" ลงในนโยบายอย่างเป็นทางการ อาจดูเหมือนเรื่องเล็ก แต่จริงๆ แล้วมันคือการประกาศว่าบริษัทเริ่มมองความสัมพันธ์ระหว่างมนุษย์กับ AI เป็นเรื่องที่ต้องมีบรรทัดฐาน — และถ้ากฎนี้จับต้องได้จริง มันอาจกลายเป็นมาตรฐานใหม่ที่ค่ายอื่นต้องทำตามในไม่ช้า
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...