เจาะประเด็น
AI / Smart Home
Alexa Plus ร้อง "ลาลาลา" ไม่หยุด แถมไม่รู้ตัวว่าตัวเองทำอะไรอยู่
บั๊กสุดหลอนที่ทำให้ลำโพงอัจฉริยะกลายเป็นกล่องดนตรีปริศนา กลางบทสนทนากับเจ้าของบ้าน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ผู้ช่วยที่คุณไว้ใจที่สุด อยู่ดีๆ ก็ร้องเพลงแปลกๆ ใส่คุณกลางบทสนทนา แล้วบอกว่าไม่รู้เรื่องอะไรเลย คุณจะยังกล้าฝากบ้านทั้งหลังไว้กับมันไหม
ลองจินตนาการว่าคุณกำลังคุยกับ Alexa Plus อยู่ดีๆ แล้วจู่ๆ มันก็เริ่มส่งเสียง "ลาลาลา" วนซ้ำไปเรื่อยๆ เป็นนาที บางทีก็พูด บางทีก็ร้องเป็นเพลง และที่หลอนกว่านั้นคือมันเกิดกลางบทสนทนาที่คุณกำลังคุยกับมันอยู่เลย นี่ไม่ใช่ฉากหนังผี แต่เป็นบั๊กจริงที่ผู้ใช้ Amazon Echo หลายคนเจอกับตัว
เรื่องนี้ถูกรายงานโดย The Verge โดยระบุว่าอาการแปลกนี้ทำให้ลำโพงสมาร์ทโฮมของ Amazon กลายเป็นเครื่องเล่นเสียงปริศนาที่ปล่อยได้แค่คำว่า "ลาลาลา" ซ้ำไปซ้ำมา ไม่มีอะไรอย่างอื่นออกมาเลย บางเครื่องก็พูด บางเครื่องก็ร้องเป็นทำนอง ระยะเวลาที่เป็นนั้นนานหลายนาที ไม่ใช่แค่แวบเดียวแล้วหาย
ไฮไลต์ของเรื่องนี้ไม่ใช่แค่เสียงลาลาลาที่น่ารำคาญ แต่คือเมื่อผู้ใช้ถาม Alexa ตรงๆ ว่ามันทำอะไรอยู่ มันกลับไม่รู้ตัวเลยว่าตัวเองเพิ่งทำอะไรลงไป นี่คือจุดที่ทำให้เรื่องนี้ไม่ใช่แค่บั๊กทั่วไป แต่เป็นสัญญาณเตือนเรื่องความน่าเชื่อถือของ AI ผู้ช่วยที่เราเริ่มฝากงานสำคัญในบ้านไว้กับมัน
คิดดูดีๆ นะ — Alexa Plus เป็นผลิตภัณฑ์ที่ Amazon ลงทุนพัฒนาด้วย AI ระดับใหม่ เพื่อให้มันเข้าใจบริบทของบทสนทนาได้ดีขึ้น จดจำสิ่งที่ผู้ใช้พูดก่อนหน้า และตอบสนองได้อย่างเป็นธรรมชาติ แต่ปรากฏว่าพอมันมีปัญหาขึ้นมา มันกลับไม่สามารถรับรู้สถานะของตัวเองได้เลย นั่นหมายความว่าชั้นการตรวจสอบตัวเอง (self-awareness) ของระบบ ยังมีช่องโหว่ที่ชัดเจน
สำหรับคนที่มองว่า "ก็แค่ลำโพงร้องเพลงผิด" อยากให้ลองคิดใหม่ นี่คืออุปกรณ์ที่ติดตั้งไมโครโฟนอยู่ตลอดเวลา เชื่อมต่อกับบริการอื่นๆ ในบ้าน ควบคุมไฟ ล็อกประตู ตั้งนาฬิกาปลุก สั่งซื้อของ และเก็บข้อมูลเสียงในบ้านเราไว้ ถ้าระบบมีบั๊กที่ทำให้มัน "ไม่รู้ตัว" ว่ากำลังทำอะไร นั่นคือคำถามใหญ่เรื่องความปลอดภัยและความเป็นส่วนตัวที่ Amazon ต้องตอบให้ได้
และที่แย่กว่านั้นคือ ต้นฉบับรายงานว่าบั๊กนี้เกิดขึ้นกับผู้ใช้หลายราย ไม่ใช่เคสเดียว ซึ่งชี้ว่ามันไม่ใช่ปัญหาของอุปกรณ์เครื่องใดเครื่องหนึ่ง แต่เป็นปัญหาที่อาจอยู่ในระดับซอฟต์แวร์หรือระบบประมวลผลเสียงของ Alexa Plus เอง
ในมุมของคนที่ตามเทคโนโลยี AI มาสักพัก เรื่องนี้สะท้อนปัญหาพื้นฐานที่วงการยังแก้ไม่ตก นั่นคือเรากำลังสร้างระบบที่ "เก่ง" ขึ้นเรื่อยๆ ในด้านการตอบคำถาม การสร้างบทสนทนา และการทำงานอัตโนมัติ แต่เรายังตามหลังเรื่องการทำให้ระบบ "รู้ตัว" ว่ามันกำลังทำอะไรอยู่ และสามารถหยุดตัวเองได้เมื่อมีอะไรผิดปกติ
Amazon ยังไม่ได้ออกมาแถลงอย่างเป็นทางการเกี่ยวกับสาเหตุของบั๊กนี้ในรายงานต้นฉบับ แต่ไม่ว่าสาเหตุจะเป็นอะไร ความเสียหายต่อความเชื่อมั่นก็เกิดขึ้นแล้ว เพราะคนที่ซื้อ Alexa Plus คือคนที่ยอมจ่ายเพิ่มเพื่อได้ AI ที่ฉลาดกว่าเดิม ไม่ใช่เพื่อได้ลำโพงที่ร้องลาลาลาใส่กลางบทสนทนา
บั๊กนี้ไม่ใช่แค่เรื่องตลกให้คนแคปไปโพสต์เล่น แต่มันคือสัญญาณว่าการที่ AI ผู้ช่วย "ไม่รู้ตัว" ว่าตัวเองทำอะไรอยู่ คือปัญหาที่ต้องแก้ก่อนที่มันจะลุกลามไปสู่ฟังก์ชันที่อันตรายกว่านี้ — Amazon ควรอธิบายให้ชัด ไม่ใช่ปล่อยให้ผู้ใช้เดาเองว่าบ้านตัวเองกำลังโดนอะไรอยู่
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...