เจาะประเด็น
AI / Trust
AI เก่งขนาดจับผิดธุรกรรมเป็นแสนล้านรายการ แต่คำถามคือ "เราจะเชื่อมันได้แค่ไหน"
วิศวกรจาก Moniepoint เล่าบทเรียนจริงหลังใช้ AI กระทบยอดบัญชีระดับ 100,000 ล้านรายการ และพบว่าความน่าเชื่อถือของ AI ไม่ได้มาจากความฉลาดของโมเดล แต่อยู่ที่สถาปัตยกรรมของมนุษย์
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ทำผิด 1 ครั้งในล้านครั้ง คุณจะยอมรับได้ไหม? เพราะที่ Moniepoint เขาไม่ได้แค่ทดลอง แต่ปล่อยให้ AI แตะเงินจริงของคนจริงๆ
เรื่องนี้ไม่ได้มาจากงานวิจัยในแล็บหรือบทความวิชาการลอยๆ แต่มันคือบทเรียนสนามจริงจาก Moniepoint บริษัทฟินเทคสาย payment ในไนจีเรีย ที่ใช้ AI เข้ามาช่วยกระทบยอดบัญชี (reconciliation) ซึ่งเป็นงานที่โคตรน่าเบื่อ ละเอียดอ่อน และผิดไม่ได้เด็ดขาด เพราะมันคือการไล่เรียงธุรกรรมนับร้อยล้านรายการให้ตรงกันระหว่างระบบภายใน กับธนาคาร หรือเกตเวย์ต่างๆ
ฟังดูเหมือนงานประจำที่มนุษย์ทำกันมานานใช่ไหม? แต่พอปริมาณธุรกรรมมันพุ่งขึ้นถึงหลัก 100,000 ล้านรายการ (100B — ตัวเลขจริง ไม่ได้พิมพ์เล่นๆ) มนุษย์เริ่มเอาอยู่ไม่ไหว เพราะต่อให้แม่นแค่ไหน สปีดในการตรวจก็ช้าลงเรื่อยๆ และต้นทุนต่อรายการก็สูงขึ้นเรื่อยๆ ทางเดียวที่ทำได้คือให้ AI เข้ามาช่วยกรองก้อนมหึมานี้ก่อน แล้วให้คนตรวจเฉพาะส่วนที่ AI "ไม่มั่นใจ"
ปัญหามันไม่ได้อยู่ที่ว่า AI แยกแยะธุรกรรมผิดหรือถูกได้แม่นแค่ไหน แต่อยู่ที่ "ความไว้ใจ" (Trust) ต่างหากที่เป็นตัวชี้ขาดว่าของแบบนี้จะใช้ได้จริงในระบบการเงินหรือเปล่า ทีมวิศวกรของ Moniepoint เ� دردค้นพบว่า การที่ AI จะถูกยอมรับให้ทำงานกับเงินจริงๆ ได้นั้น ไม่ใช่แค่เรื่อง accuracy หรือ precision แต่คือการออกแบบระบบที่ทำให้มนุษย์ "กล้าที่จะไม่ตรวจ" งานของ AI ในบางจุดได้อย่างสบายใจ
ฟังดูขัดหูขัดตานิดหน่อย เพราะปกติเราชอบคิดกันว่า AI เก่งกว่าเราแล้วเราก็แค่กดปุ่มปล่อยมันไป แต่ในโลกของเงินตรา ความเสี่ยงมันสูงเกินกว่าจะ "ไว้ใจแบบตาบอด" ได้ ทีมงานเขาจึงต้องสร้างกลไกที่เรียกว่า "Confidence Score" หรือคะแนนความมั่นใจของ AI ในแต่ละรายการว่า มันมั่นใจแค่ไหนว่าธุรกรรมนี้ match กันถูกต้องจริงๆ
นี่คือหัวใจของเรื่องทั้งหมด — มันไม่ใช่การแทนที่มนุษย์ด้วย AI แต่คือการออกแบบ "สนามเด็กเล่น" ให้ AI ได้วิ่งเฉพาะในพื้นที่ปลอดภัย และมีรั้วกั้นจุดเสี่ยงไว้ให้คนดูแล นี่แหละคือสิ่งที่เรียกว่า "Human-in-the-loop" ที่ไม่ได้เป็นแค่สโลแกน แต่เป็นสถาปัตยกรรมที่บังคับไว้จริงๆ ในโค้ด
บทเรียนจากตรงนี้มันสะท้อนอะไรได้เยอะมาก โดยเฉพาะกับวงการ AI ในบ้านเราที่ชอบขายฝันว่า "AI ทำได้ทุกอย่าง" ความจริงคือ AI มันทำได้หลายอย่าง แต่ "ความเชื่อใจ" ไม่ได้มาจากความสามารถของโมเดล แต่อยู่ที่การออกแบบกระบวนการ (Process Design) ว่าคุณสร้างกลไกอะไรมาครอบคลุมตอนที่มันพลาดบ้าง
ทีมงานเขายังพูดถึงอีกประเด็นที่ผมว่าสำคัญไม่แพ้กัน — การที่ AI ทำงานกับข้อมูลระดับนี้ได้ มันจำเป็นต้องมี "Data Pipeline" ที่ใสสะอาดและมีคุณภาพสูงมาก ถ้าข้อมูลเข้าไปสกปรก ต่อให้โมเดลเทพแค่ไหน ผลลัพธ์ที่ออกมาก็จะพังทั้งก้อน และนั่นคือจุดที่ความเชื่อใจจะพังทลายลงทันที แบบยากจะกู้กลับคืน
ผมว่าสิ่งที่ Moniepoint ทำมันไม่ได้เป็นแค่บทเรียนสำหรับวงการฟินเทค แต่เป็นกรณีศึกษาสำหรับทุกองค์กรที่กำลังจะเอา AI เข้ามาใช้ในระบบสำคัญๆ — ไม่ว่าจะเป็นโรงพยาบาล ระบบโลจิสติกส์ หรือแม้แต่รัฐบาล — การจะให้ AI ทำงานได้จริง คุณต้องออกแบบ "ความไม่เชื่อใจ" (Distrust) ให้เป็นระบบด้วย ไม่ใช่แค่มุ่งแต่จะทำให้ AI ฉลาดขึ้นอย่างเดียว
Confidence Score
ระบบที่ให้ AI ประเมินตัวเองว่ารายการไหนที่มันมั่นใจจริงๆ และรายการไหนที่ควรส่งให้คนตรวจ — หลักการง่ายๆ แต่เปลี่ยนทุกอย่าง
Human-in-the-loop
ไม่ใช่แค่มีคนนั่งดู แต่คือการออกแบบ workflow ที่บังคับให้คนต้องเข้ามาในจุดวิกฤต ถึงแม้ AI จะ "คิดว่า" มันทำได้ก็ตาม
สุดท้ายแล้ว สิ่งที่ผมได้จากบทความนี้คือ — AI ที่ "เก่ง" กับ AI ที่ "น่าเชื่อถือ" มันคนละเรื่องกันเลย และบริษัทส่วนใหญ่ในตอนนี้กำลังวิ่งไล่ตามความเก่ง โดยลืมไปว่าความน่าเชื่อถือมันต้องสร้างจากสถาปัตยกรรม ตั้งแต่วันแรกที่ออกแบบระบบ ไม่ใช่มาติดทีหลังตอนที่มันพลาดแล้ว
ถ้าคุณกำลังวางแผนจะเอา AI ไปแตะงานที่พลาดไม่ได้แม้แต่ครั้งเดียว — ขอให้จำเรื่องนี้ไว้ "ความเชื่อใจ" ไม่ได้ซื้อมาด้วยโมเดลแพงๆ แต่สร้างได้ด้วยการออกแบบระบบที่รู้จักขีดจำกัดของตัวเอง และกล้าที่จะส่งไม้ต่อให้มนุษย์ในจังหวะที่ใช่ นี่คือวุฒิภาวะที่วงการ AI ไทยยังขาดและต้องเรียนรู้โดยเร็ว
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...