เจาะประเด็น
AI / SRE
Claude แก้ปัญหาให้ตัวเองได้จริงหรือ? มุมมองจากวิศวกรหน้างานที่ไม่ได้มาโฆษณา
Anthropic เปิดใจเล่าประสบการณ์ใช้ LLM ดับไฟในระบบจริง ทั้งจุดที่ AI เก่งเหนือมนุษย์ และจุดที่มันยังมึนงงกับความสัมพันธ์ของเหตุและผล
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
คำถามที่แท้จริงไม่ใช่ "AI จะมาแทนวิศวกรไหม" แต่คือ "เราจะใช้ AI ให้มันเก่งขึ้นโดยไม่ทำให้คนโง่ลงได้ยังไง"
หลายคนชอบจินตนาการว่าอนาคตของวงการไอทีคือ AI นั่งเฝ้าระบบแล้วพลิกหน้าจอบอกว่ามันพบปัญหา พร้อมยื่นโค้ดที่แก้เสร็จสรรพให้เรา แต่ความเป็นจริงมันไม่ได้สวยแบบนั้น และที่สำคัญ มันก็ไม่ได้แย่อย่างที่คนขี้ระแวงคิดด้วย
Alex Palcuie วิศวกรด้านความน่าเชื่อถือ (Reliability Engineer) ของ Anthropic บริษัทแม่ของ Claude ขึ้นพูดในงาน InfoQ เล่าประสบการณ์จริงจากการใช้ LLM จัดการเหตุการณ์ระบบขัดข้อง ซึ่งไม่ใช่เรื่องเล่นๆ เพราะบริษัทเขาสร้าง AI และใช้ AI ทำงานภายในองค์กรเองด้วย นี่ไม่ใช่คนนอกที่มาเล่าตามตำรา แต่เป็นคนที่จับเข่าคุยกับ Claude เวลาระบบล่มจริงๆ
ประเด็นแรกที่เขาย้ำชัดคือ AI เก่งเรื่อง "สังเกต" มากกว่าที่มนุษย์จะทำได้ ในการดูก้อน Log และ Trace ที่พ่นออกมาเป็นล้านบรรทัดต่อวินาที สายตามนุษย์ไม่มีทางไล่ดูหมด แต่ Claude ทำได้และทำได้ไวแบบเหนือมนุษย์ มันเหมือนมีผู้ช่วยที่อ่านหนังสือทั้งห้องสมุดภายในไม่กี่วินาที แล้วชี้ว่าหน้าที่เท่าไหร่ที่มีรอยขีดเส้นใต้สีแดง
ข้อดีที่เห็นชัดจากการใช้งานจริงคือเรื่องความเร็วและความละเอียดในการกลั่นกรองข้อมูลมหาศาล ถ้าเป็นมนุษย์ต้องใช้เวลาหลายชั่วโมงเพื่อไล่ดูว่าเกิดอะไรขึ้นบ้าง AI ทำเสร็จในหลักนาที และไม่บ่นเรื่องปวดตา มันช่วยตัดทอนเวลาที่ใช้ในการ "ทำความเข้าใจสถานการณ์" ลงได้มหาศาล ซึ่งในการดับไฟจริงๆ ทุกนาทีที่ประหยัดได้หมายถึงเงินและชื่อเสียงของบริษัทที่หายไปน้อยลง
แต่นี่คือจุดที่ Alex บอกตรงๆ ว่า AI ยังไปไม่ถึงดวงดาว นั่นคือการ "วิเคราะห์สาเหตุ" (Root Cause Analysis) มันเก่งเรื่องบอกว่า "อะไรเกิดขึ้น" แต่ยังงงๆ กับ "ทำไมมันถึงเกิดขึ้น" โดยเฉพาะการแยกแยะระหว่างความสัมพันธ์ (Correlation) กับความเป็นเหตุเป็นผล (Causation) ซึ่งเป็นจุดที่วิศวกรมนุษย์ยังได้เปรียบอยู่มาก
ลองนึกภาพตามว่ามีเหตุการณ์ผิดปกติเกิดขึ้นพร้อมกัน 5 จุดในระบบ AI จะสแกนเจอทั้งหมดและรายงานมาเป็นลิสต์ยาว แต่การจะชี้ขาดว่าจุดไหนคือต้นตอที่ทำให้อีก 4 จุดที่เหลือพังตามกันไป ยังต้องอาศัยความเข้าใจบริบทของระบบโดยรวม ซึ่ง AI ยังทำได้ไม่ดีพอ มันจะให้ข้อมูลครบ แต่การตัดสินใจขั้นสุดท้ายยังต้องเป็นฝ่ายมนุษย์
อีกประเด็นที่ผมคิดว่าสำคัญและน่าจะตรงใจคนที่ทำงานสายนี้ คือเรื่องการนำ AI เข้าไปอยู่ในทีม On-Call โดยไม่ทำให้ทักษะคนอ่อนลง ประเด็นนี้ฟังง่ายแต่ทำยากสุด เพราะหลายองค์กรที่ตื่นเต้นกับ AI มักจะเหวี่ยงพนักงานเข้าสู่โหมด "พึ่งพาเครื่องจักร" จนลืมไปว่าความรู้และประสบการณ์ของคนเป็นสิ่งที่ AI ไม่ได้เรียนรู้มาแทนได้ในพริบตา
Alex เสนอแนวคิดว่า วิศวกรที่ดูแลทีมต้องออกแบบเวิร์กโฟลว์ให้ AI เป็น "เครื่องมือขยายความสามารถ" ไม่ใช่ "เครื่องแทนความสามารถ" หมายความว่า ให้ AI ช่วยกลั่นกรองข้อมูลเบื้องต้น ช่วยกรองสัญญาณรบกวนออกไป แล้วให้คนใช้เวลาที่เหลือไปกับการวิเคราะห์เชิงลึก ฝึกฝนทักษะการแก้ปัญหา ซึ่งเป็นสิ่งที่ AI ยังทำแทนไม่ได้
ถ้าปล่อยให้คนกดปุ่มรับคำตอบจาก AI โดยไม่ตั้งคำถาม สุดท้ายพนักงานจะกลายเป็นแค่คนคอยกด "Accept" แล้วความสามารถในการแก้ไขสถานการณ์ที่ไม่เคยเจอมาก่อนจะค่อยๆ หายไป ซึ่งอันตรายมาก เพราะระบบไอทีไม่เคยมีเหตุการณ์ซ้ำแบบเดิมเป๊ะๆ สักครั้ง
มองเห็นทุกอย่าง
AI เก่งสุดในการสแกน Log และ Trace ปริมาณมหาศาลเพื่อชี้จุดผิดปกติได้เร็วกว่าคนหลายเท่า
ยังมึนกับเหตุผล
การวิเคราะห์ Root Cause ยังต้องพึ่งมนุษย์ เพราะ AI แยกแยะ Correlation กับ Causation ได้ไม่ดีพอ
ต้องออกแบบให้ดี
หัวหน้าทีมต้องวางระบบให้ AI เป็นตัวช่วยเสริมทักษะคน ไม่ใช่ตัวแทนที่ทำให้คนขาดการคิดเอง
ผมมองว่าสิ่งที่ Alex พูดมานี้คือสัจธรรมที่คนนอกวงการมักเข้าใจผิด หลายคนคิดว่าใส่ AI เข้าไปในระบบแล้วทุกอย่างจะดีขึ้นเอง แต่ความจริงคือมันต้องอาศัยการออกแบบกระบวนการทำงานใหม่ทั้งหมด และที่สำคัญคือต้องยอมรับข้อจำกัดของมันด้วย
การที่ Anthropic กล้าให้วิศวกรตัวเองออกมาพูดถึงจุดอ่อนของ AI ในการทำงานจริงแบบนี้ นับว่าซื่อสัตย์ต่อวงการมาก เพราะมันช่วยเซตความคาดหวังของคนที่กำลังวางแผนจะนำ AI ไปใช้ในงานลักษณะเดียวกัน ไม่ให้ตั้งธงไว้สูงเกินจริงจนกระโดดลงไปแล้วเจ็บตัว
ฟันธงเลยว่า AI ในงาน Incident Response ตอนนี้คือ "ผู้ช่วยที่เก่งมากแต่ยังเป็นแค่ผู้ช่วย" ใครที่คิดจะเทเงินลงไปแล้วหวังว่ามันจะจัดการทุกอย่างเองได้โดยไม่ต้องมีคนเก่งๆ นั่งอยู่หลังไมค์ คิดใหม่ได้เลย เพราะสุดท้ายคนที่เข้าใจระบบแบบองค์รวมยังเป็นสิ่งที่ขาดไม่ได้ และจะขาดไม่ได้ไปอีกนาน
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...