เจาะประเด็น
AI Security
Google เปิดซอร์ส Mantis เอเจนต์ AI นักล่าบั๊ก ที่ไม่ได้มาแค่ "เจอ" แต่ต้อง "เจอจริง"
เครื่องมือใหม่จาก Google ที่ออกแบบมาเพื่อฆ่า "ข่าวลวง" ในวงการความปลอดภัย — พวก AI ที่ชอบโม้ว่าหาช่องโหว่เจอ ทั้งที่มันไม่ได้มีอยู่จริง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้า AI ช่วยสแกนโค้ดได้ แต่ "มโน" ว่ามีช่องโหว่ไปเรื่อยเปื่อย แบบนี้มันคือตัวช่วยหรือตัวถ่วง? Google ตอบคำถามนั้นด้วยการสร้างเอเจนต์ที่รับผิดชอบตั้งแต่ต้นจนจบ — ไม่ใช่แค่เครื่องมือตรวจโค้ดธรรมดาๆ อีกต่อไป
เริ่มจากโจทย์คลาสสิกที่คนวงการความปลอดภัยปวดหัวมานาน: AI สแกนโค้ดแล้วเจอ "ช่องโหว่" เต็มไปหมด แต่พอทีม dev ไล่ตรวจจริงๆ ปรากฏว่าส่วนใหญ่เป็นแค่ความเข้าใจผิด หรือไม่ก็ AI มโนเองทั้งเพ ปัญหา false positive เนี่ย มันไม่ได้แค่เสียเวลา แต่ทำให้ทีมเริ่มชินชา แล้วพลาดของจริงที่ซ่อนอยู่ท่ามกลางขยะพวกนั้น
Google เลยตัดสินใจจับมือกับปัญหานี้ตรงๆ ด้วยการปล่อย Mantis โอเพนซอร์สเฟรมเวิร์กสำหรับสร้างเอเจนต์ AI ที่ไม่ได้ทำแค่ "ชี้จุด" ว่ามีอะไรผิดปกติ แต่จะเดินเรื่องเองทั้งหมด ตั้งแต่เจอช่องโหว่ ตรวจสอบว่าเป็นของจริงหรือเปล่า ลองยิง exploit เพื่อพิสูจน์ ไปจนถึงลงมือแก้ไขโค้ดให้เสร็จสรรพ ฟังดูเป็นความฝันของ CISO ใช่ไหมล่ะ?
ที่มาของชื่อ Mantis น่าสนใจไม่แพ้ตัวมัน — Google ตั้งชื่อนี้เพราะแมลงตั๊กแตนตำข้าว (Praying Mantis) มันดักรอเหยื่ออย่างอดทน สังเกตการณ์ก่อนจะโจมตีอย่างแม่นยำในจังหวะเดียว ซึ่งคือคอนเซ็ปต์ที่พวกเขาอยากได้จาก AI ตัวนี้: ไม่ใช่วิ่งไล่ฟันทุกอย่างที่ขยับได้ แต่ต้อง "รอ" และ "ยืนยัน" ให้ชัวร์ก่อนว่าอันไหนคือเหยื่อจริงๆ
สาเหตุที่ Google ต้องลงทุนสร้างอะไรแบบนี้ ก็เพราะเครื่องมือสแกนความปลอดภัยแบบเดิมที่ใช้ AI มันสร้าง "เสียงรบกวน" (noise) เยอะเกินไป AI รุ่นก่อนๆ มักถูกฝึกให้ "เดา" ว่าตรงไหนน่าสงสัย โดยไม่ได้พิสูจน์ว่ามันโจมตีได้จริงหรือเปล่า ผลลัพธ์ที่ได้คือรายงานความเสี่ยงยาวเป็นหางว่าว แต่ทีมงานตรวจแล้วส่วนใหญ่ไม่ใช่เรื่องจริง — งานเข้าแทนที่จะงานออก
จุดขายสำคัญของ Mantis ไม่ได้อยู่ที่ "สแกนได้เร็ว" แต่อยู่ที่การเป็น Agentic Framework หมายความว่ามันถูกออกแบบให้ทำงานเป็น "ตัวแทน" ที่รับผิดชอบงานตั้งแต่ต้นจนจบ ไม่ใช่แค่ปลั๊กอินที่ร้องเตือนแล้วจบ กระบวนการทำงานของมันจะวนลูปแบบนี้:
1. ค้นหา (Identify)
สแกนโค้ดเบสเพื่อหาจุดที่อาจเป็นช่องโหว่ โดยใช้ทั้งเทคนิคดั้งเดิมและ AI ช่วยวิเคราะห์
2. พิสูจน์ (Validate)
ขั้นตอนนี้แหละที่ฆ่า false positive — เอเจนต์จะพยายามยิง payload หรือจำลองการโจมตี เพื่อดูว่าจุดที่เจอมันถูกโจมตีได้จริงหรือเปล่า
3. ทำซ้ำ (Reproduce)
ถ้าพิสูจน์แล้วว่าเป็นของจริง เอเจนต์จะพยายามสร้างขั้นตอนการโจมตีที่ย้ำได้ เพื่อให้ทีม dev เห็นภาพว่าคนร้ายจะเข้าไปได้ยังไง
4. ซ่อม (Fix)
สุดท้าย — และนี่คือสิ่งที่เครื่องมืออื่นไม่กล้าทำ — เอเจนต์จะเสนอแพตช์หรือแก้ไขโค้ดให้เลย แล้วส่งกลับให้มนุษย์ตรวจทานอีกที
ตรงนี้แหละที่ผมว่ามันน่าสนใจมากกว่าตัว "ฟีเจอร์" ด้วยซ้ำ — การที่ Google เลือกเปิดซอร์สเฟรมเวิร์ก ไม่ใช่ขายเป็นบริการแบบปิด บอกอะไรเราอย่างหนึ่ง: พวกเขาไม่ได้อยากเป็นแค่ผู้ขายเครื่องมือ แต่กำลังพยายามตั้ง "มาตรฐาน" ใหม่ให้วงการ ว่า AI ด้านความปลอดภัยที่ดี ควรต้องพิสูจน์ตัวเองได้ ไม่ใช่แค่โม้เก่ง
แต่ก็ต้องพูดตามตรง — ผมไม่ได้ตื่นเต้นกับคำว่า "AI แก้บั๊กให้เอง" ขนาดนั้นนะ เพราะขั้นตอนสุดท้าย (Fix) เนี่ย เป็นดาบสองคมเสมอ ถ้าเอเจนต์มัน "คิด" เองว่าแก้ถูกวิธี แต่ดันไปทำอะไรพังโดยไม่รู้ตัว ทีม dev จะยิ่งปวดหัวกว่าเดิม ทาง Google ก็รู้ทัน เลยออกแบบให้ทุกอย่างที่ AI ทำต้องผ่านการรีวิวจากมนุษย์ก่อนเสมอ ตรงนี้ทำได้ฉลาดดี
อีกมุมที่ผมคิดว่าสำคัญไม่แพ้กันคือเรื่อง "ความอดทน" ของระบบ — ในวงการที่ทุกคนอยากได้ของเร็วๆ การที่ Google สอนให้ AI "อดทนรอ" เพื่อยืนยันความถูกต้องก่อนลงมือ มันเป็นแนวคิดที่สวนกระแส แต่เป็นสิ่งที่วงการซอฟต์แวร์ต้องการจริงๆ เพราะของเร็วแต่ผิด มันแพงกว่าของช้าแต่ชัวร์เสมอ
Mantis คือหมัดแรกที่ Google ต่อยออกไปเพื่อบอกวงการว่า "พอได้แล้ว" กับ AI ที่มโนช่องโหว่ไม่เลิก — แต่คำถามจริงๆ ไม่ใช่ว่า AI จะหาบั๊กเก่งแค่ไหน แต่คือเราจะไว้ใจให้ AI ซ่อมโค้ดโดยไม่ต้องจับมือดูทุกฝีก้าวเมื่อไหร่ต่างหาก ใครที่คิดจะเอา AI มาช่วยเรื่องความปลอดภัยโดยไม่มีการ์ดกัน "ความมั่นใจเกินจริง" ของตัว AI เอง... บอกได้เลยว่ายังไม่รอด
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...