เจาะประเด็น
AI / Enterprise
ปัญหาใหญ่ของ AI ในองค์กรไม่ใช่ความฉลาด แต่มันอธิบายไม่ได้ว่าทำไมถึงตัดสินใจแบบนั้น
Alex Porcelli ชี้ช่องโหว่ที่คนทำ AI องค์กรมองข้าม ระหว่างความสามารถของโมเดล กับความรับผิดชอบที่ตรวจสอบได้จริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ตัดสินใจเรื่องสำคัญแทนเราได้ แต่อธิบายไม่ได้ว่าทำไม คำถามคือใครจะรับผิดชอบ
เรื่องนี้พูดตรงๆ ได้เลยว่าเป็นหนึ่งในปัญหาที่คนทำ AI ในองค์กรคุยกันน้อยที่สุด แต่จริงจังที่สุด นั่นคือเวลาที่โมเดลภาษาตัวใหญ่ถูกเอาไปใช้ตัดสินใจเรื่องสำคัญ เช่น อนุมัติสินเชื่อ อนุมัติเคลม หรือตัดสินใจเรื่องปฏิบัติการ มันให้คำตอบแบบ "ไม่แน่นอน" ทุกครั้ง และแทบไม่มีร่องรอยให้ตามกลับไปดูได้ว่ามันคิดยังไงถึงได้คำตอบนั้น
Alex Porcelli ออกมาเล่าในงานนำเสนอที่ InfoQ ว่าเขามองว่านี่คือช่องว่างใหญ่ที่องค์กรยังแก้ไม่ตก คือผลลัพธ์ของ AI แบบ non-deterministic หรือที่ให้คำตอบไม่ซ้ำกันในสถานการณ์เดียวกัน กับความรับผิดชอบที่ตรวจสอบได้ หรือ accountability ในสถานการณ์ที่เดิมพันสูง
Porcelli เสนอวิธีที่เขาใช้จริง คือการผสาน DMN หรือ Decision Model and Notation ซึ่งเป็นมาตรฐานการสร้างโมเดลการตัดสินใจ เข้ากับ LLM, agent skills และ NeMo guardrails สิ่งที่ได้คือสถาปัตยกรรมแบบ agentic ที่มีทั้งความสามารถของ AI และความสามารถในการตรวจสอบย้อนกลับ
หัวใจของแนวคิดนี้คือการแยก "ตรรกะการตัดสินใจ" ออกจาก "ตัวโมเดล" ให้ชัดเจน ฝั่งธุรกิจเป็นเจ้าของตรรกะนั้นเอง ส่วนฝั่งวิศวกรดูแล governance ของสถาปัตยกรรมให้แข็งแรง ฟังดูเป็นเรื่องเทคนิค แต่จริงๆ มันคือการจัดบ้านใหม่ทั้งหลังว่าใครรับผิดชอบอะไร
ลองคิดภาพองค์กรที่ใช้ AI ตัดสินใจเรื่องที่กระทบคนจริงๆ ถ้าคำตอบออกมาแล้วอธิบายไม่ได้ว่าใช้เกณฑ์อะไร ใครจะกล้าเซ็นรับรอง หรือเวลามีปัญหาขึ้นมา ใครจะรับผิด นี่คือจุดที่หลายบริษัทติด และเป็นเหตุผลว่าทำไม AI หลายตัวถึงได้แค่ทดลองใน sandbox แต่ไม่กล้าปล่อยเข้า production จริง
การที่ Porcelli ดึง DMN เข้ามาเป็นแกนกลาง บวกกับ guardrails ที่คอยคุมขอบเขตของ agent ทำให้ได้สิ่งที่เขาเรียกว่า deterministic และ auditable คือคำตอบสามารถอธิบายได้ และตรวจสอบย้อนกลับได้จริงในระดับที่องค์กรรับผิดชอบไหว
ประโยคนี้สรุปปรัชญาทั้งหมดของเขาไว้สั้นๆ องค์กรไม่ควรปล่อยให้วิศวกรเป็นคนตัดสินใจว่าเกณฑ์ธุรกิจคืออะไร และไม่ควรปล่อยให้ฝั่งธุรกิจไปยุ่งกับรายละเอียดสถาปัตยกรรม แต่ละฝ่ายมีบทบาทชัดเจน
มุมมองส่วนตัวผมคือ นี่ไม่ใช่แค่เรื่องเทคนิค แต่เป็นเรื่อง governance ขององค์กรล้วนๆ หลายที่เร่งเอา AI ไปใช้เพราะกลัวตกขบวน โดยลืมตั้งคำถามว่าเวลามันตัดสินใจผิด เรามีกลไกตามกลับไปหาต้นตอได้แค่ไหน แนวทางของ Porcelli เป็นคำตอบที่ pragmatic และน่าจะเป็นทิศทางที่องค์กรจริงจังเรื่อง AI ควรหยิบไปคิด
ต่อให้โมเดลเก่งแค่ไหน ถ้าอธิบายการตัดสินใจไม่ได้และไม่มีใครรับผิดชอบได้ มันก็ไม่ควรได้เข้าไปตัดสินใจเรื่องที่กระทบคนจริงๆ อยู่ดี — และการแยกตรรกะธุรกิจออกจากตัวโมเดล คือก้าวแรกที่องค์กรต้องทำให้ได้ก่อนจะพูดถึง AI ใน production อย่างจริงจัง
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...