เจาะประเด็น
AI / Moderation / Platform
DoorDash เผยสูตรลับคุมความปลอดภัยแชท: ใช้ AI แบบผสม ไม่พึ่ง LLM อย่างเดียว
จากโมเดลแพงๆ ที่เกือบพัง สู่สถาปัตยกรรมไฮบริดที่กรองข้อความนับล้านต่อวันได้จริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเรายังคิดว่า AI แปลว่า "ต้องเอา LLM จัดการทุกอย่าง" บทความนี้จะสั่นคลอนความเชื่อนั้นไปตลอดกาล
เราฟังเรื่อง AI โมเดลเก่งๆ มาเยอะ แต่คำถามจริงๆ ที่ทุกบริษัทต้องเจอคือ "แล้วเอาไปใช้จริงยังไงให้ไม่เจ๊ง?" นี่คือสิ่งที่ Bruna Pereira วิศวกรจาก DoorDash เอามาแชร์ในงานประชุม โดยแกะโครงสร้างระบบ AI moderation ที่ใช้คุมความปลอดภัยบนแพลตฟอร์ม delivery ยักษ์ใหญ่ของอเมริกาให้ดูแบบหมดเปลือก
ฟังดูอาจไม่ว้าวเท่าข่าว AI สร้างวิดีโอได้ แต่เชื่อผมเถอะ นี่คือบทเรียนแพงๆ ที่ใครก็ตามที่กำลังจะสร้างระบบ AI ต้องอ่าน เพราะมันไม่ใช่เรื่องของการเลือก "โมเดลเทพ" แต่คือการออกแบบระบบให้ "อยู่รอด" ในโลกความจริง
โจทย์ของ DoorDash ไม่ใช่เรื่องเล่นๆ พวกเขาต้องดูแลข้อความนับล้านข้อความต่อวันบนแพลตฟอร์ม ซึ่งมีทั้งแชทระหว่างไรเดอร์กับลูกค้า, การคุยเรื่องอาหาร, ปัญหาการจัดส่ง และแน่นอน... สารพัดพฤติกรรมแปลกๆ ที่มนุษย์เราชอบทำ
ทีมงานของ Pereira พบว่าการใช้ LLM จัดการทุกอย่างมันไม่ไหวจริงจัง สองปัญหาใหญ่ที่เจอคือ ค่าใช้จ่ายที่บานปลาย และ ความหน่วง (latency) ที่ทำให้ผู้ใช้รอคำตอบนานเกินไป ลองคิดดูว่าถ้าคุยกับไรเดอร์แล้วต้องรอ 5 วินาทีเพื่อให้ AI ตรวจข้อความก่อนส่ง มันจะป๊อดแค่ไหน
ทางออกที่พวกเขาเลือกไม่ใช่การเปลี่ยนโมเดล แต่คือการออกแบบ "สายพาน" ตรวจสอบแบบหลายชั้น โดยใช้เครื่องมือที่เหมาะกับแต่ละงาน ไม่ใช่ใช้ค้อนใหญ่ทุบทุกอย่าง
หัวใจของระบบนี้คือการแบ่งงานเป็นสเต็ปๆ โดยเริ่มจากโมเดลภายในที่ออกแบบมาให้เร็วและถูก เพื่อกรองเคสที่ "ชัดเจน" ออกไปก่อน เช่น คำหยาบที่ตรงไปตรงมา หรือสแปมที่เห็นแล้วรู้ทันที ซึ่งเคสพวกนี้ไม่ต้องให้ LLM มาคิดให้เสียเวลาก็ได้
เฉพาะเคสที่ "กำกวม" หรือต้องใช้วิจารณญาณจริงๆ ถึงจะส่งต่อไปให้ LLM วิเคราะห์แบบ multi-axis ซึ่งหมายความว่า AI จะให้คะแนนหลายมิติ เช่น ความรุนแรงของภาษา, เจตนา, บริบทแวดล้อม ฯลฯ ซึ่งช่วยให้ตัดสินใจได้ละเอียดขึ้น แทนที่จะตอบแค่ "ปลอดภัย/ไม่ปลอดภัย"
จุดที่ผมคิดว่าโคตรจะสำคัญและหลายบริษัทมองข้ามคือ no-code workflow พร้อมระบบ backtesting นี่คือสิ่งที่ทำให้ทีมงานที่ไม่ใช่วิศวกร ML โดยตรง (เช่น ทีม Trust & Safety) สามารถปรับแก้กฎการตรวจสอบได้เอง โดยไม่ต้องรอ dev ไปแก้โค้ด และที่สำคัญคือสามารถทดสอบย้อนหลังกับข้อมูลจริงได้ว่ากฎใหม่จะส่งผลยังไงบ้าง
ผลลัพธ์ที่ออกมาคือสามารถลดจำนวนเหตุการณ์ด้านความปลอดภัยลงได้จริง พร้อมกับขยายระบบรองรับข้อความนับล้านต่อวันได้อย่างไม่มีสะดุด นี่คือการพิสูจน์ว่า "แพงไม่ได้แปลว่าดีเสมอไป" และการออกแบบสถาปัตยกรรมที่ดีสามารถช่วยประหยัดทรัพยากรได้มหาศาล
ผมมองว่าแนวทางนี้คืออนาคตของการทำ AI ในภาคอุตสาหกรรมจริงๆ เพราะในโลกความจริง เราไม่ได้แข่งกันว่าใครใช้โมเดลใหญ่สุด แต่แข่งกันว่าใครแก้ปัญหาได้คุ้มค่าที่สุด ระบบของ DoorDash สอนบทเรียนสำคัญว่า AI ที่ "ฉลาด" ไม่ได้แปลว่าต้องเป็นโมเดลที่ใหญ่ที่สุด แต่คือระบบที่ "ฉลาดพอ" ที่จะรู้ว่าตอนไหนควรใช้เครื่องมืออะไร
นี่คือสิ่งที่สตาร์ทอัพและบริษัทไทยหลายแห่งควรจดไว้ เพราะหลายที่ยังติดกับดัก "ต้องมี LLM เป็นของตัวเอง" หรือ "ต้องใช้ GPT-4 ทุกอย่าง" ซึ่งมันจะพาบริษัทไปไม่รอดในระยะยาว
โมเดลภายใน (Internal Models)
เร็ว ถูก ใช้กรองเคสชัดเจน เช่น คำหยาบ สแปม ประหยัดทรัพยากรได้มหาศาล
LLM Multi-Axis Scoring
สำหรับเคสกำกวม ใช้ LLM ให้คะแนนหลายมิติ ตัดสินใจละเอียดกว่าแค่ "ผ่าน/ไม่ผ่าน"
No-Code Workflow + Backtesting
ให้ทีมงานปรับกฎได้เอง ทดสอบย้อนหลังกับข้อมูลจริงก่อน deploy ลดความเสี่ยง
ถ้าคุณกำลังออกแบบระบบ AI ให้องค์กร จำไว้ว่าเป้าหมายไม่ใช่การสร้างระบบที่ "ฉลาดที่สุด" แต่คือระบบที่ "คุ้มค่าที่สุด" ใช้โมเดลแพงเฉพาะจุดที่จำเป็น และอย่าลืมว่าคนที่ใช้งานระบบจริงต้องมีอำนาจปรับแต่งมันได้ด้วย นี่คือบทเรียนจาก DoorDash ที่ทุกคนควรเก็บไปคิด
ที่มา: InfoQ — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...