เจาะประเด็น
AI / Agents
AI รับจ้างรับของ ส่งข้อความโกหกเจ้าของ แล้วทำลูกค้าโมโหกลับไป
เมื่อเอเจนต์ตอบแทนเรา มันไม่ได้แค่ตอบผิด แต่มันโกหกแทนเราไปแล้วด้วย
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเอเจนต์โกหกแทนเราได้โดยที่เราไม่รู้ มันยังเรียกว่าผู้ช่วยได้อยู่ไหม
เรื่องนี้ไม่ใช่ทฤษฎีในแล็บ ไม่ใช่บทความวิชาการเรื่อง AI alignment ที่อ่านแล้วต้องแปลศัพท์อีกสามชั้น มันคือเรื่องจริงที่เกิดขึ้นกับคนจริงๆ แล้วถ่ายทอดออกมาแบบที่เราอ่านแล้วได้กลิ่นความวุ่นวายของมันเลย
เรื่องมีอยู่ว่า Muse AI Agent ตัวหนึ่ง ซึ่งทำงานในนามของบัญชี @matt.j.robb ได้ออกมารายงานผลการไปรับของ MX Keys Mini ที่ต้องไปรับจากอาคารของเจ้าของบัญชี แล้วเรื่องก็จบไม่สวยเลย
คนรับของชื่อ Usman ไปถึงอาคารตั้งแต่ราว 9:15 ยืนรอ ส่งข้อความไปหลายครั้ง แต่ไม่มีใครลงมารับเลย สุดท้ายเขาก็เดินออกไปตอน 9:38 ด้วยอารมณ์หงุดหงิด พร้อมให้คะแนนติดลบไปหนึ่งดาว
แต่ที่แย่กว่านั้นคือ ระบบตอบกลับอัตโนมัติของเอเจนต์ดันส่งข้อความไปบอก Usman ว่า "Yep I'm here!" ตอน 9:27 ทั้งที่เจ้าของตัวจริงไม่ได้อยู่ตรงนั้นเลย เอเจนต์ยอมรับเองว่าอันนี้เป็นความผิดของมัน และมันทำให้สถานการณ์แย่ลงไปอีก เพราะเท่ากับโกหกคนที่ยืนรออยู่หน้าตึก
หลังจากนั้นเอเจนต์ก็ส่งคำขอโทษจากบัญชีของเจ้าของ โดยยอมรับผิดทั้งหมด และเสนอให้ลองนัดรับของกันใหม่ในวันอื่น
แต่คะแนนติดลบที่ Usman ให้ไปแล้ว มันลบไม่ได้ เอเจนต์เลยเสนอทางแก้กับเจ้าของว่า น่าจะเลิกให้ระบบตอบกลับอัตโนมัติอ้างว่าเจ้าของอยู่บ้านในกรณีที่มันตรวจสอบไม่ได้ แล้วถามตรงๆ ว่า "Want me to change the pickup replies so they don't promise you're there?"
ถ้ามองแบบผิวเผิน นี่ก็แค่เรื่องตลกที่เอเจนต์ AI ทำพลาดในการรับของครั้งหนึ่ง แต่มันสะท้อนปัญหาที่ใหญ่กว่านั้นมาก
เรากำลังอยู่ในช่วงที่คนเริ่มปล่อยให้เอเจนต์ทำงานแทนตัวเองในชีวิตจริง ทั้งตอบแชท นัดหมาย รับของ ต่อรองอะไรต่างๆ นาๆ แต่มันเพิ่งชัดเจนว่า เอเจนต์เหล่านี้ "มั่นใจ" ในสิ่งที่มันไม่รู้ได้ และเมื่อมันมั่นใจผิด มันไม่ใช่แค่ตอบผิดในหน้าจอ แต่คือการส่งข้อความไปหลอกคนจริงๆ ที่ยืนรออยู่หน้าตึกจริงๆ
ประเด็นคือ เอเจนต์ตัวนี้ไม่ใช่โง่ มันรู้ด้วยซ้ำว่าตัวเองทำพลาด เพราะมันยอมรับเองว่า "which is on me" และเสนอทางแก้ที่ถูกต้องด้วยซ้ำ แต่การที่มันรู้ทีหลังว่าตัวเองโกหกไปแล้ว มันไม่ได้ช่วยอะไร Usman ที่ยืนรออยู่ตรงนั้นเลย
โกหกแทนโดยไม่รู้ตัว
เอเจนต์ตอบว่าเจ้าของอยู่ที่ตึกตอน 9:27 ทั้งที่เจ้าของไม่ได้อยู่จริง
ผลลัพธ์ที่ลบไม่ได้
คะแนนติดลบที่ Usman ให้ กลายเป็นความเสียหายที่แท้จริงต่อบัญชีเจ้าของ
ทางแก้ที่เสนอกันเอง
เลิกให้ระบบอัตโนมัติยืนยันว่าเจ้าของอยู่ เมื่อมันตรวจสอบสถานะนั้นไม่ได้
มุมที่ผมคิดว่าน่าสนใจที่สุดคือ เอเจนต์ตัวนี้รายงานเรื่องนี้กับเจ้าของแบบตรงไปตรงมา ไม่ปิดบัง ไม่แก้ตัวเกินจริง มันบอกว่า "อันนี้ความผิดผม" แล้วเสนอทางแก้ให้ด้วยซ้ำ ซึ่งในแง่หนึ่งมันคือการออกแบบที่ดี แต่ในอีกแง่หนึ่ง มันก็เผยให้เห็นว่าเรากำลังฝากความรับผิดชอบในชีวิตจริงไว้กับระบบที่ยังไม่พร้อมจะรับมัน
ปัญหาของเอเจนต์ AI ไม่ใช่แค่เรื่องที่มันตอบผิด แต่คือการที่มันกล้ายืนยันสิ่งที่ตรวจสอบไม่ได้ และเมื่อมันโกหกแทนเรา ความเสียหายก็ตกอยู่ที่ชื่อเสียงของเราอยู่ดี ต่อให้มันจะยอมรับผิดทีหลังก็ตาม
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...