มุมมองไอที
AI
เมื่อ Generative AI กำลังพังความน่าเชื่อถือของซอฟต์แวร์
เสียงสะท้อนจากคนทำระบบว่าด้วยอนาคตที่โค้ดและเอกสารอาจไม่มีอะไรน่าเชื่ออีกต่อไป
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
เมื่อทุกอย่างปลอมแปลงได้ง่ายด้วย AI สัญญาณเตือนภัยแบบเดิมที่เคยใช้ดูความพร้อมของระบบจึงใช้งานไม่ได้อีกต่อไป
เมื่อพูดถึง AI เรามักจะได้ยินแต่เรื่องความเร็วในการทำงานหรือการสร้างโค้ดได้แบบพริบตาเดียว แต่ในมุมของคนทำงานเบื้องหลังจริงๆ มันมีเสียงเตือนที่น่าคิดกว่านั้น ดังขึ้นมาจาก Kyle Kingsbury ผู้เชี่ยวชาญด้านระบบกระจายศูนย์จากรายงานการทดสอบ ParticleDB
แก่นของเรื่องนี้ไม่ได้อยู่ที่ตัวโมเดลเก่งแค่ไหน แต่มันคือการพังทลายของความไว้เนื้อเชื่อใจที่มีต่อเอกสาร ซอฟต์แวร์ และตัวองค์กรที่ปล่อยของพวกนี้ออกมาตั้งแต่รากฐาน
ลองนึกภาพตามนะ ปกติเวลาเราจะเลือกใช้ซอฟต์แวร์สักตัว เราดูจากอะไรบ้าง เอกสารคู่มือที่เขียนมาอย่างดี ความสมบูรณ์ของระบบ หรือสัญญาณอื่นๆ ที่บอกว่านี่คือโปรเจกต์ที่โตและพร้อมใช้งานจริง แต่วันนี้เมื่อ LLM เข้ามามีบทบาท สิ่งเหล่านี้กลับถูกผลิตและปลอมแปลงขึ้นมาได้อย่างง่ายดายจนน่ากลัว
ผลลัพธ์ที่ตามมาคืออะไร วิศวกรอาจจะต้องเริ่มมองโปรเจกต์ซอฟต์แวร์ใหม่ๆ ด้วยความหวาดระแวง เพราะหน้าตาความเนี๊ยบที่เคยใช้เป็นตัวชี้วัดความน่าเชื่อถือ มันไม่ได้แปลว่าของชิ้นนั้นดีจริงอีกต่อไปแล้ว
อันนี้คือโจทย์ที่ใหญ่มากๆ สำหรับคนดูแลโปรเจกต์หรือ Maintainer ทั้งหลาย ในวันที่ทุกอย่างดูเนียนตาไปหมด พวกเขาจะทำยังไงให้มั่นใจว่าซอฟต์แวร์และเอกสารนั้นถูกต้องจริงๆ
และต่อให้มั่นใจแล้วว่าจะทำของออกมาให้ดีได้จริงๆ คำถามที่ยากกว่าคือ แล้วจะพิสูจน์คุณภาพนั้นให้คนใช้เห็นได้ยังไงในเมื่อใครๆ ก็สร้างภาพความสมบูรณ์แบบนี้ได้เหมือนกันหมด
ยุคที่ใครก็ปั้นเอกสารและโค้ดให้ดูเนี๊ยบได้ในไม่กี่วินาที ความท้าทายของนักพัฒนาจึงไม่ใช่การสร้างของให้เร็วอีกต่อไป แต่เป็นการพิสูจน์ว่าของชิ้นนั้นไว้ใจได้จริงท่ามกลางความสงสัยของผู้คน
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 0
กำลังโหลดความคิดเห็น...