เจาะประเด็น
AI / Trust
AI กำลังกัดกร่อน "ความไว้ใจ" ซึ่งเป็นเชื้อเพลิงของทุกอย่างในวงการซอฟต์แวร์
เมื่อโค้ดที่ดูเนียนใช้ได้ไม่เท่ากับโค้ดที่เรามั่นใจว่ามันทำงานยังไง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 5 นาที
ถ้าเราเลิกอ่านโค้ดของกันและกันเพราะเชื่อว่า AI เขียนให้แล้ว ค่าเฉลี่ยของคุณภาพงานจะไปทางไหน?
ความไว้ใจเป็นสิ่งที่มองไม่เห็น แต่ซอฟต์แวร์ทั้งโลกตั้งอยู่บนมัน ไม่ว่าจะเป็นการที่เรารันโค้ดของคนอื่นโดยไม่ต้องอ่านทุกบรรทัด เชื่อว่า dependency ที่โหลดมาจะไม่พังโปรเจกต์ หรือแม้กระทั่งเชื่อว่าคนที่รีวิว PR ให้เราจริงจังกับงานนั้นจริงๆ บทความชิ้นหนึ่งจาก Terrible Software ชี้ว่า AI กำลังกัดกร่อนกลไกพื้นฐานนี้อย่างเงียบๆ และมันอาจเป็นความเสียหายที่ใหญ่กว่าที่เราคิด
ประเด็นไม่ได้อยู่ที่ AI เขียนโค้ดห่วย ตรงกันข้าม โค้ดที่มันสร้างดูดี ผ่าน test ได้ syntax สวยงาม นั่นแหละคือปัญหา เพราะเมื่อผลลัพธ์ดูเนียนตา คนก็เริ่มลดความระแวง แต่ความระแวงนี่แหละคือสิ่งที่ทำให้ระบบซอฟต์แวร์ยังพอเชื่อถือได้
ความไว้ใจในวงการซอฟต์แวร์ทำงานผ่านหลายชั้น ตั้งแต่ trust ในตัวเพื่อนร่วมทีม trust ใน library ที่โหลดมา ไปจนถึง trust ใน process อย่าง code review และ CI/CD พอ AI เข้ามาเป็นผู้เขียนโค้ดก้อนใหญ่โดยที่มนุษย์ไม่ได้ตรวจทุกบรรทัดอีกต่อไป ชั้นพวกนี้ก็เริ่มบางลงเรื่อยๆ
ปัญหาคือคนที่รีวิวก็มักจะรีวิวแบบผ่านๆ เพราะโค้ดดูดีอยู่แล้ว หรือแย่กว่านั้นคือใช้ AI อีกตัวมารีวิวโค้ดที่ AI เขียน ซึ่งกลายเป็นวงจรที่ไม่มีมนุษย์อยู่ในลูปจริงๆ แล้วพอมีบั๊กหรือช่องโหว่โผล่มา ก็ไม่มีใครรู้ว่ามันเข้ามาตั้งแต่ตอนไหน
Trust ในตัวคน
เราเชื่อว่าคนที่ push โค้ดเข้าใจสิ่งที่ตัวเองเขียน และรับผิดชอบเมื่อมันพัง
Trust ในโค้ด
เราเชื่อว่าโค้ดที่ผ่าน review แล้วผ่านการคิดของมนุษย์อย่างน้อยหนึ่งคน
Trust ใน process
เราเชื่อว่า test, CI และขั้นตอนต่างๆ จับปัญหาก่อนถึงมือผู้ใช้ได้
พอ AI แทรกเข้าไปในทุกจุดของสามชั้นนี้พร้อมกัน มันไม่ได้พังทีละชั้น แต่พังพร้อมกันหมด และนี่คือสิ่งที่บทความนี้ชี้ว่าอันตราย เพราะเราไม่มีกลไกใหม่มาทดแทนความไว้ใจแบบเก่าทัน
ทางออกไม่ใช่เลิกใช้ AI แต่คือออกแบบความไว้ใจใหม่ให้เหมาะกับยุคที่โค้ดส่วนใหญ่มาจากเครื่อง อย่างการบังคับให้ทุก commit ที่ AI ช่วยเขียนต้องมีคนเซ็นชื่อกำกับชัดเจน หรือการทำ provenance ของโค้ดว่าส่วนไหนมาจากไหน ซึ่งเป็นเรื่องที่หลายทีมยังไม่เริ่มทำ
อีกอย่างที่บทความสื่อคือวัฒนธรรม "ไว้ใจโดยปริยาย" ที่วงการซอฟต์แวร์โอเพนซอร์สสร้างมา 30 ปี กำลังใช้ไม่ได้ผลในโลกที่โค้ดถูกปั่นออกมามากกว่าที่มนุษย์อ่านไหว ถ้าเราไม่เปลี่ยนวิธีคิดเรื่องนี้ตั้งแต่ตอนนี้ วันที่ระบบใหญ่ล่มเพราะบั๊กที่ไม่มีใครรู้ว่ามาจากไหน จะไม่ใช่เรื่องเซอร์ไพรส์อีกต่อไป
AI ไม่ได้ทำลายความไว้ใจในซอฟต์แวร์โดยตรง แต่มันทำให้เราหยุดตั้งคำถาม ซึ่งอันตรายพอๆ กัน และถ้าวงการยังไม่ยอมออกแบบกลไกความไว้ใจใหม่ที่เหมาะกับยุคนี้ ปัญหาจะไม่จบที่บั๊ก แต่จะจบที่ไม่มีใครกล้าเชื่อระบบไหนอีกเลย
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...