เจาะประเด็น
AI / Meta
Meta เอาคนจริงมานั่งรับสายแทน Muse แล้วพนักงานก็เจอTranscriptที่ตัวเองไม่อยากเชื่อ
ฟีเจอร์โทรอัตโนมัติของ AI ที่เพิ่งเปิดตัวได้ไม่ถึงเดือน กำลังกลายเป็นปัญหาภายในที่ Meta ต้องถอยก่อนที่เรื่องจะบานปลาย
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
AI ที่โทรจองคิวตัดผมให้คุณได้ กำลังมีคนจริงๆ นั่งฟังสายนั้นอยู่ แล้วคำถามคือ เขาได้ยินอะไรที่เขาไม่ควรได้ยินบ้าง
เเรื่องนี้เริ่มจากรายงานของ Reuters ที่บอกว่า Meta กำลังทดสอบ "human concierge" หรือคนจริงๆ ที่คอยรับสายแทน Muse ซึ่งเป็น personal AI agent ตัวใหม่ของบริษัท โดยคนกลุ่มนี้จะรับหน้าที่จัดการบางสายที่ Muse โทรออกให้ผู้ใช้ ข้อมูลทั้งหมดอ้างอิงจากโพสต์ภายในบริษัทที่ Reuters ได้เห็น
Muse เปิดตัวไปเมื่อวันที่ 8 กันยายนที่ผ่านมา ฟีเจอร์โทรศัพท์ของมันทำได้หลายอย่าง ทั้งโทรไปร้านตัดผมในสหรัฐฯ เพื่อจองคิว โทรเช็กว่าร้านมีสินค้าในสต็อกไหม หรือโทรขอใบเสนอราคาจากร้านต่างๆ ฟังดูสะดวกดีใช่ไหม แต่ปรากฏว่าไม่ทุกสายจะราบรื่น มีพนักงานคนหนึ่งเล่าว่า บริษัทประกันของเขาวางสายทิ้งทันทีที่รู้ว่ากำลังคุยกับ AI อยู่
Meta เปิดตัวเลือก human concierge นี้ให้พนักงานครึ่งหนึ่งได้ลองใช้เมื่อสัปดาห์ที่แล้ว พร้อมมีกลุ่ม opt-out สำหรับคนที่ไม่ต้องการเข้าร่วม แต่ดูเหมือนว่ามันจะไม่ได้ผ่านไปด้วยดีเท่าไหร่ เพราะพนักงานบางส่วนออกมาแสดงความกังวลเรื่องความเป็นส่วนตัว โดยเตือนว่าข้อมูลอ่อนไหวอาจหลุดไปถึง contractor ในคอลเซ็นเตอร์ได้โดยไม่ตั้งใจ
ประโยคนี้คือสิ่งที่พนักงานคนหนึ่งเขียนไว้ในโพสต์ภายใน และมันก็สื่อความกังวลได้ตรงที่สุด ว่าตราบใดที่ระบบยังมีคนจริงเข้ามาเกี่ยวข้อง ความผิดพลาดแค่ครั้งเดียวก็อาจทำให้ข้อมูลที่ไม่ควรหลุดออกไปได้
เรื่องยังไม่จบแค่นั้น เพราะพนักงานอีกคนที่ให้ Muse โทรไปเจรจาบิลอินเทอร์เน็ตและเคเบิลทีวีของตัวเอง บอกว่า transcript ของสายนั้นมี contractor พูดอ้างอิงเชิงเหยียดเชื้อชาติด้วย อันนี้คือจุดที่ทำให้เรื่องมันเกินคำว่า "บั๊ก" ไปแล้ว
รองประธานคนหนึ่งของ Meta Superintelligence Labs ออกมายอมรับว่า การเริ่มทดสอบโดยไม่มีการชี้แจงให้ชัดเจนตั้งแต่แรกถือเป็นความผิดพลาด และบอกว่าฟีเจอร์นี้ถูกถอยกลับไปก่อนแล้วในตอนนี้
ต้องบอกว่ากรณีนี้เป็นบทเรียนที่ตรงไปตรงมาสำหรับวงการ AI ทั้งวงการเลยก็ว่าได้ ทุกวันนี้บริษัทเทคฯ แข่งกันเปิดตัว agent ที่ทำงานแทนมนุษย์ได้สารพัดอย่าง แต่สิ่งที่มักถูกละเลยคือคำถามพื้นฐานว่า เมื่อ AI ต้องคุยกับโลกจริง มันจะพาคนจริงเข้ามาเกี่ยวข้องตรงไหน และข้อมูลที่ไหลผ่านจุดนั้นจะถูกจัดการยังไง
Meta ถอยฟีเจอร์นี้กลับไปแล้วก็จริง แต่ปัญหาที่โผล่มาไม่ได้เกิดจากตัวโค้ดเพียงอย่างเดียว มันเกิดจากการที่บริษัทเร่งทดสอบก่อนวางระบบป้องกันข้อมูลและคัดกรองคนให้เรียบร้อย ใครคิดจะทำ AI agent ที่คุยกับโลกภายนอกแทนผู้ใช้ ควรอ่านเคสนี้ให้จบก่อนเริ่มเขียนสเปก
ที่มา: TechPowerUp — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...