What I learned by putting GitHub Copilot behind a MitM proxy

ฟังนะ เพื่อนนักพัฒนา วันนี้มีเรื่องที่ทั้งน่าตื่นเต้นและน่าขนลุกในเวลาเดียวกันมาฝาก มีคนบ้าคนหนึ่งเอา GitHub Copilot ไปวางไว้หลัง MitM proxy (Man-in-the-Middle) เพื่อแอบดูว่าเจ้าหุ่นยนต์ช่วยเขียนโค้ดตัวนี้มันส่งอะไรกลับไปกลับมาบ้าง และผลที่ออกมามันไม่ใช่แค่น่าสนใจ แต่มันคือเรื่องที่ทุกคนที่ใช้ AI เขียนโค้ดต้องรู้ให้ได้

เริ่มจากที่มาที่ไปก่อน ใครที่เขียนโค้ดสายนี้จะรู้ว่า Copilot มันคือผู้ช่วยสุดเท่ที่คอยเติมโค้ดให้เราแบบเรียลไทม์ แต่คำถามที่ค้างคาใจมาตลอดคือ "ไอ้เจ้าตัวนี้มันรู้ได้ยังไงว่าเรากำลังเขียนอะไรอยู่" และ "มันส่งข้อมูลอะไรกลับไปที่เซิร์ฟเวอร์ของ Microsoft บ้าง" คำตอบจากคนที่แกะกล่องออกมาดูคือ — มันส่งไปเยอะกว่าที่คุณคิดมาก

สิ่งที่จับได้จากการดักจับครั้งนี้คือ Copilot ไม่ได้ส่งแค่โค้ดที่คุณกำลังพิมพ์อยู่เท่านั้น แต่ยังรวมถึงบริบทโดยรอบทั้งหมด ไม่ว่าจะเป็นไฟล์ที่เปิดอยู่ โครงสร้างโปรเจกต์ และที่สำคัญที่สุดคือ มันส่ง "ความตั้งใจ" ของคุณผ่านการคาดเดาโค้ดที่ยังไม่ทันพิมพ์ด้วยซ้ำ ฟังดูเหมือน AI มันอ่านใจเราได้ใช่ไหม? ความจริงแล้วมันคือการส่ง "ทุกอย่าง" ที่มันเห็นไปประมวลผลที่คลาวด์

ประเด็นที่ทำให้ผมต้องเขียนคอลัมน์นี้คือ ความเสี่ยงด้านความเป็นส่วนตัวที่คนส่วนใหญ่เมินเฉย พวกคุณที่ใช้ Copilot ทำงานกับโค้ดบริษัทที่เป็นความลับทางการค้า หรือแม้แต่โปรเจกต์ส่วนตัวที่มีข้อมูลผู้ใช้ รู้ไหมว่าข้อมูลพวกนั้นมันถูกส่งข้ามแดนไปเก็บไว้ที่เซิร์ฟเวอร์ต่างประเทศทุกครั้งที่คุณกด Tab เพื่อรับคำแนะนำ? นี่ไม่ใช่เรื่องล้อเล่นนะ มันคือเรื่องจริงที่เกิดขึ้นทุกวินาที

แต่เดี๋ยวก่อน อย่าเพิ่งคิดว่า Microsoft จะโง่ส่งข้อมูลดิบๆ ไปแบบไม่เข้ารหัส ในการทดลองครั้งนี้พบว่ามีการใช้ TLS และการเข้ารหัสที่แน่นหนา แต่การที่เราดักจับได้เพราะเราควบคุม certificate ที่เครื่องเชื่อถือได้เอง ซึ่งหมายความว่าถ้าเกิดมีคนกลางหรือหน่วยงานรัฐที่สามารถเข้าถึง root certificate ได้ พวกเขาก็เห็นข้อมูลเดียวกับที่ Copilot ส่งไปเหมือนกัน นี่คือช่องโหว่เชิงโครงสร้างที่ไม่มีใครพูดถึง

อีกมุมหนึ่งที่ทำให้ผมฉุนคือ การที่ Copilot พยายามซ่อนบางอย่างไว้ด้วยการบีบอัดข้อมูลและใช้เทคนิคที่ไม่ธรรมดาในการส่งข้อมูล ซึ่งมันทำให้การตรวจสอบด้วยเครื่องมือทั่วไปทำได้ยากขึ้นมาก คำถามคือ ถ้าคุณไม่ได้ทำอะไรผิด ทำไมต้องซ่อน? ผมไม่ได้หมายความว่า Microsoft กำลังทำสิ่งชั่วร้าย แต่ในโลกของความปลอดภัย หลักการพื้นฐานคือ "ถ้าซ่อน แสดงว่ามีอะไรให้ซ่อน"

ผลกระทบที่แท้จริงต่อวงการ developer คือ ความไว้ใจที่เริ่มสั่นคลอน เคยมีคำพูดติดตลกในวงการว่า "AI จะมาแทนที่โปรแกรมเมอร์" แต่ตอนนี้มันกลายเป็น "โปรแกรมเมอร์จะถูก AI หลอกให้ขายข้อมูลบริษัท" ไปซะแล้ว เพราะต่อให้คุณระวังแค่ไหน การใช้เครื่องมือเหล่านี้ก็เหมือนการจ้างพนักงานต่างชาติมาดูโค้ดทั้งหมดของคุณ โดยที่คุณไม่มีวันรู้ว่ามันเอาไปทำอะไรต่อ

จากที่ผมวิเคราะห์ดู ทางออกที่หลายบริษัทเริ่มใช้คือการตั้ง proxy ของตัวเองเพื่อกรองข้อมูลที่ออกไป หรือไม่ก็ใช้โมเดล AI ที่รันบนเครื่องตัวเอง (local model) ซึ่งเป็นทางเลือกที่ปลอดภัยกว่า แต่ก็ต้องแลกกับประสิทธิภาพที่ลดลง มันคือการแลกระหว่างความสะดวกกับความปลอดภัยที่ทุกองค์กรต้องชั่งน้ำหนักให้ดี

สุดท้ายนี้ ผมไม่ได้บอกให้คุณเลิกใช้ Copilot นะ แต่ผมบอกให้คุณ "รู้เท่าทัน" ก่อนที่จะกดปุ่มตกลงเงื่อนไขการใช้งานครั้งหน้า ลองถามตัวเองดูว่า โค้ดที่คุณเขียนมันมีค่าพอที่จะเสี่ยงหรือเปล่า? และถ้าเกิดวันหนึ่งข้อมูลรั่วออกไป คุณจะรับผิดชอบยังไง? คำตอบของแต่ละคนคงไม่เหมือนกัน แต่อย่างน้อยตอนนี้คุณก็รู้ความจริงแล้ว และความจริงมันโหดร้ายเสมอ