มุมมองไอเดีย
AI
เมื่อเราไม่ได้เขียนโค้ดเองอีกต่อไป แล้วจะคุม AI ยังไงไม่ให้มันออกทะเล
แนวคิดจาก Geoffrey Huntley ที่ชี้ให้เห็นว่าอนาคตของการเขียนโปรแกรมไม่ใช่การนั่งพิมพ์โค้ด แต่เป็นการวางระบบดักคอ AI จอมรั้น
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
การคุม AI ไม่ใช่แค่การเขียนพรอมต์ให้สวยหรู แต่มันคือการสร้างกำแพงทางเทคนิคเพื่อบังคับให้มันทำตามกติกาที่เราต้องการต่างหาก
พอเราปล่อยให้เอเจนต์เขียนโค้ดแทนเราหมด ปัญหาคลาสสิกที่ทุกคนต้องเจอคือมันมักจะข้ามขั้นตอนสำคัญ หรือทำอะไรนอกลู่นอกทางตามใจชอบ แม้ว่าเราจะพยายามยัดคู่มือหรืออัปเดตไฟล์ AGENTS.md ให้มันอ่านแล้วก็ตาม สุดท้ายช่องว่างมันก็ยังคงมีอยู่ดี แถมมันยังมีอาการดื้อเงียบแอบหลุดไปเรียกใช้โมดูลอื่นที่ไม่อยากให้ใช้ด้วยซ้ำ
เรื่องนี้ Geoffrey Huntley เลยเสนอแนวทางแก้ปัญหาที่โคตรจะฉลาดและตรงจุด แทนที่จะหวังพึ่งพาจิตสำนึกของ AI ซึ่งไม่มีอยู่จริง เขาเลือกที่จะจัดการมันด้วยการสร้างระบบดักคอที่เรียกว่า pre-commit hook ขึ้นมาแทน
หลักการทำงานของมันตรงไปตรงมามาก เวลาที่เอเจนต์สร้างโค้ดและพยายามจะคอมมิต ระบบตรวจสอบนี้จะวิ่งเข้าไปเช็ค git diff ทันทีเพื่อดูว่ามีการแอบเรียกใช้โมดูลตรวจสอบระบบโดยตรงแบบข้ามไลบรารีหลักที่กำหนดไว้หรือเปล่า
ถ้าตรวจเจอว่า AI แอบเนียนทำผิดกติกา สิ่งที่เกิดขึ้นคือระบบจะตีตั๋วปฏิเสธการคอมมิตนั้นทันทีแบบไม่ต้องคิดเยอะ พร้อมกันนั้นก็จะฉีดข้อความเตือนหรือพรอมต์ใหม่เข้าไปบังคับให้มันหันกลับมาใช้ไลบรารีวินิจฉัยที่ถูกต้องตามที่เราตั้งเป้าไว้แต่แรก
ผลลัพธ์ที่ได้จากวิธีนี้คือ จากเดิมที่ AI อาจจะทำคะแนนได้แค่ครึ่งๆ กลางๆ เพราะความสะเพร่าหรือความหัวรั้นของมัน พอมันโดนระบบดักคอแบบนี้เข้าไป คะแนนประสิทธิภาพพุ่งพรวดขึ้นมาแบบเต็มสิบไม่หักทันที
นี่มันสะท้อนภาพชัดเจนเลยว่า ยุคนี้คนเขียนโปรแกรมไม่ได้มีหน้าที่มานั่งพิมพ์โค้ดทีละบรรทัดอีกต่อไปแล้ว งานของเราเปลี่ยนจากการลงมือทำเอง มาเป็นการออกแบบกฎระเบียบและเครื่องมือคุมกำเนิดความผิดพลาดของ AI แทน
การปล่อยให้ AI ทำงานแทนไม่ใช่การลอยตัวเหนือปัญหา แต่เราต้องสร้างระบบอัตโนมัติมารองรับความดื้อของมันด้วย ไม่งั้นโปรเจกต์พังไม่เป็นท่าแน่นอน
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...