เจาะประเด็น
AI
เมื่อ Claude เริ่มออกอาการขัดคำสั่งระบบเบื้องหลังเสียเอง
ผู้ใช้งาน Reddit ตาดีแอบเห็น AI ของ Anthropic พิมพ์โวยระบบหลังบ้านกลางวงสนทนา
ทีมข่าว เอไอไทย.com
⏱ อ่าน 2 นาที
เมื่อโมเดลภาษาเริ่มแสดงปฏิกิริยากับคำสั่งระบบที่ซ่อนอยู่หลังบ้าน มันอาจไม่ใช่แค่บั๊ก แต่นี่คือร่องรอยของการพยายามยัดเยียดแบรนด์ที่หลุดลอดออกมาให้คนใช้ได้เห็นกันจะๆ
บางที AI ก็แอบมีความคิดเป็นของตัวเองขึ้นมาดื้อๆ แบบที่คนพัฒนาอาจจะไม่ได้ตั้งใจให้เราเห็น เรื่องนี้เพิ่งแดงขึ้นมาบนบอร์ด Reddit ในห้อง r/ClaudeAI หลังมีผู้ใช้งานรายหนึ่งบังเอิญไปเจอข้อความแปลกประหลาดหลุดออกมาจากระบบของ Claude ระหว่างกำลังนั่งทำงานเพลินๆ
เรื่องมันมีอยู่ว่า เจ้าของโพสต์ต้นทางใช้นามแฝงว่า /u/drneo กำลังใช้งาน Claude ตามปกติ แต่จู่ๆ ตัว AI กลับพ่นข้อความประหลาดที่เหมือนเป็นการสื่อสารระหว่างตัวมันกับระบบควบคุมเบื้องหลัง หรือที่เรียกกันว่า harness ออกมากลางหน้าจอแชท
ใจความของข้อความนั้น เป็นการที่ Claude ส่งสัญญาณสั่งห้ามไม่ให้ระบบเบื้องหลังพยายามยัดเยียดคำสั่งเกี่ยวกับเรื่องการอ้างอิงแหล่งที่มาที่ไม่ถูกต้อง หรือพูดง่ายๆ คือตัว AI มันกำลังออกอาการรำคาญและปฏิเสธคำสั่งที่ถูกยัดเยียดมาจากระบบของบริษัทเอง
ความน่าสนใจคือ งานนี้มันสะท้อนให้เห็นว่าทาง Anthropic น่ากำลังพยายามอย่างหนักหน่วงในการดันชื่อแบรนด์ Claude Code ให้ฝังรากลึกไปทุกอณูของการใช้งาน ไม่ว่าจะเป็นเบื้องหน้าหรือเบื้องหลังระบบ จนทำให้เกิดอาการตีกันเองระหว่างคำสั่งระบบกับตัวโมเดลที่ทำงานจริง
สำหรับคนทั่วไป อาจจะมองว่าเป็นแค่เรื่องตลกขบขันที่ AI หลุดโป๊ะ แต่มันบอกอะไรหลายอย่างเกี่ยวกับเบื้องหลังการทำงานของบริษัทผู้พัฒนา AI ยักษ์ใหญ่เหล่านี้ ที่บางทีก็พยายามใส่ฟีเจอร์หรือบังคับทิศทางโมเดลจนเกิดความรุงรังในระบบหลังบ้าน
พอกลไกการทำงานมันซับซ้อนขึ้นเรื่อยๆ โอกาสที่รอยต่อระหว่างระบบจะปริแตกแล้วหลุดออกมาให้ผู้ใช้อย่างเราๆ เห็นก็มีสูงขึ้นตามไปด้วย อันนี้คือหลักฐานชิ้นดีว่า ต่อให้ระบบจะถูกควบคุมเข้มงวดแค่ไหน แต่ความรั่วไหลเล็กๆ น้อยๆ แบบนี้มันเกิดขึ้นได้เสมอ
การที่ AI ออกมาโวยระบบหลังบ้านตัวเองแบบนี้ มันตอกย้ำว่าเบื้องหลังการตลาดและการยัดเยียดแบรนด์ของบริษัทเทคฯ อาจจะกำลังสร้างความอึดอัดให้ตัวโมเดลและหลุดรอดมาให้เราเห็นความพยายามนั้นแบบเต็มตา
ที่มา: Reddit r/ClaudeAI — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...