Quoting Florian Herrengt

ฟังทางนี้ก่อน — ถ้าคุณเป็นโปรแกรมเมอร์หรืออยู่ใกล้ๆ วงการนี้ คุณจะรู้สึกว่าเรื่องนี้มันชวนขนลุกไม่น้อย Florian Herrengt เพิ่งพูดถึงปรากฏการณ์ที่เรียกว่า "cognitive debt" หรือหนี้ทางปัญญา ซึ่งกำลังกัดกินทีมพัฒนาซอฟต์แวร์ยุคนี้ และมันไม่ได้เป็นแค่เรื่องตลกๆ ที่ว่า "เดี๋ยวให้ AI ช่วยดูให้" อีกต่อไป

เรื่องเริ่มจากทีมงานที่เจอบั๊กประหลาด ซึ่งมันเกิดขึ้นเป็นครั้งที่สี่แล้วที่ทีมต้องมานั่งแก้ แต่สิ่งที่ทุกคนทำคือ "ถาม AI ให้ช่วยแก้" ฟังดูทันสมัยใช่ไหม? แต่ปัญหาคือ แม้แต่ Fable ซึ่งเป็น AI ที่เก่งกาจก็ยังหาทางออกไม่เจอ นี่คือสัญญาณเตือนว่าบางอย่างมันพังไปไกลเกินกว่าที่เครื่องมือจะช่วยได้แล้ว

แล้วไอ้ตอนที่คุณเดินไปถามคนที่เขียนฟีเจอร์นี้ว่า "ข้อมูลมาจากไหน?" คำตอบที่ได้คือ "เอ่อ... ไม่รู้สิ ขอถาม Claude ก่อน" — นี่มันคือบรรทัดฐานของวงการแล้วหรือยังไง? นั่งดูข้อความยาวเป็นกำแพงวิ่งบนจอ ทั้งคู่ไม่รู้ว่าอันไหนจริงอันไหนมั่ว แต่ Claude มันดูมั่นใจจะแย่ ความมั่นใจของ AI มันไม่ได้แปลว่าถูกต้องเสมอไปนะเว้ย

ประเด็นมันไม่ได้อยู่ที่ว่า AI เก่งหรือโง่ แต่มันอยู่ที่ว่าโปรเจกต์มันชักจะซับซ้อนเกินกว่าที่สมองมนุษย์จะตามทัน มีเลเยอร์ไปเรื่อย มี service เต็มไปหมด จนกระทั่งไม่มีใครในทีมเข้าใจภาพรวมทั้งหมดได้อีกต่อไป นี่คือหายนะที่แท้จริง

ผมมองว่าสิ่งที่ Herrengt กำลังชี้ให้เห็นคือ "การผลักภาระความเข้าใจ" ให้กับ AI ทีมงานไม่ได้เรียนรู้โค้ดของตัวเองอีกต่อไป แต่เรียนรู้วิธีถาม AI แทน มันเหมือนกับคุณขับรถโดยปิดตา แล้วเชื่อ GPS ไปเรื่อยๆ จนวันหนึ่ง GPS มันพากลับบ้านผิด ก็ไม่รู้จะโทษใคร เพราะคุณไม่เคยรู้เส้นทางด้วยตัวเองเลย

บริบทที่ใหญ่กว่านั้นคือ อุตสาหกรรมซอฟต์แวร์กำลังสร้าง "ชั้นกลาง" ที่เต็มไปด้วยโค้ดที่ไม่มีใครเข้าใจ มันไม่ใช่แค่เรื่องความเสี่ยงด้านความปลอดภัยหรือ performance แต่คือเรื่องของ "ความรับผิดชอบ" — ถ้าไม่มีใครเข้าใจระบบ แล้วระบบมันพัง ใครจะเป็นคนรับผิดชอบ? AI เหรอ? มันแค่ปริ้นต์ข้อความออกมาเท่านั้นแหละ

ผมไม่ได้บอกว่า AI ห่วย หรือบอกให้ทุกคนเลิกใช้ AI นะ แต่มันถึงเวลาแล้วที่ทีมพัฒนาต้องกลับมาถามตัวเองว่า "เรากำลังสร้างปราสาทบนทรายหรือเปล่า?" การที่ AI ช่วยเขียนโค้ดได้เร็วขึ้น มันไม่ได้แปลว่าเราควรเขียนโค้ดโดยไม่เข้าใจมันเลย หนี้ทางปัญญาตรงนี้ มันจะเก็บดอกเบี้ยคุณในวันข้างหน้า และดอกเบี้ยมันแพงกว่าที่คิดเยอะ

สุดท้ายนี้ ผมฝากไว้ว่า อย่าเป็นทีมที่ "นั่งดูข้อความวิ่งบนจอแล้วไม่รู้เรื่อง" จงเป็นทีมที่กล้าพูดว่า "ฉันไม่รู้ ฉันจะไปหาคำตอบให้ได้" — ดีกว่าที่จะพูดว่า "ไม่รู้สิ ถาม AI ดู" แล้วก็หวังว่ามันจะรอด