เจาะประเด็น
AI / Safety
OpenAI เปิดกรอบรายงาน "โมเดลเพี้ยน" ให้พนักงานแจ้งได้เอง
ความโปร่งใสที่มาพร้อมคำถามว่าใครกันแน่ที่นิยามคำว่า "ผิดปกติ"
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคนที่สร้างโมเดลเป็นคนตัดสินเองว่าโมเดล "เพี้ยน" หรือไม่ กรอบรายงานที่ว่ามันจะมีความหมายแค่ไหน
โOpenAI เพิ่งปล่อยกรอบการเปิดเผยข้อมูล (disclosure framework) สำหรับเรื่อง model misalignment หรืออาการที่โมเดล AI ทำงานเบี่ยงเบนไปจากที่ควรจะเป็น ตลอดวงจรชีวิตของโมเดล ตั้งแต่พัฒนาไปจนถึงใช้งานจริง ฟังดูเป็นข่าวดีใช่ไหม ก็ใช่แหละ แต่มันมีรายละเอียดที่ควรแกะดูมากกว่าหัวข้อข่าว
ไอเดียหลักของกรอบนี้คือ พนักงานใน OpenAI เองสามารถแจ้ง (flag) ปัญหาที่อาจเกิดขึ้นได้ แล้วเรื่องจะถูกส่งต่อไปให้ทีมเทคนิคเพื่อติดป้ายกำกับ (label) ว่าเหตุการณ์นั้นคืออะไร จัดอยู่ในหมวดไหน ซึ่งตรงนี้แหละที่ผมว่ามันน่าสนใจ เพราะมันคือการยอมรับกลายๆ ว่าโมเดล AI ในสนามจริงมันมีพฤติกรรมที่คาดไม่ถึงอยู่เรื่อยๆ และบริษัทอยากมีระบบรองรับเรื่องนี้อย่างเป็นทางการ ไม่ใช่ปล่อยให้เป็นเรื่องที่รู้กันในวงใน
ก่อนอื่นต้องเข้าใจก่อนว่า model misalignment ไม่ใช่แค่บั๊กที่แก้โค้ดแล้วจบ มันคือสถานการณ์ที่โมเดลแสดงพฤติกรรมที่มนุษย์ผู้พัฒนามองว่าไม่ตรงกับเจตนาเดิม หรือไม่ตรงกับสิ่งที่ควรจะทำ นี่เป็นหนึ่งในปัญหายากที่สุดของวงการ AI เพราะมันไม่ใช่แค่เรื่องเทคนิค แต่เป็นเรื่องการตีความด้วยว่า อะไรคือ "สิ่งที่ควรจะทำ" กันแน่
การที่ OpenAI ออกกรอบแบบนี้พร้อมกับ case study เริ่มต้นที่เล่าถึงพฤติกรรมไม่คาดคิดของโมเดล ถือเป็นการยอมเปิดไส้ในระดับหนึ่ง ว่ามีเคสจริงที่เกิดขึ้นระหว่างพัฒนาและใช้งาน และบริษัทเลือกที่จะบันทึกไว้เป็นกรณีศึกษาแทนที่จะเก็บเงียบ
ปฏิกิริยาจากชุมชนนักพัฒนาและสาย AI มีทั้งสองขั้วชัดเจน ฝั่งหนึ่งชื่นชมว่า OpenAI กล้าเปิดข้อมูลเรื่องที่ปกติบริษัทเทคโนโลยีมักไม่ค่อยพูดถึง อีกฝั่งหนึ่งตั้งคำถามว่า กรอบนี้เป็นแค่การเล่าเรื่ององค์กร (corporate narrative) ที่ดูดีหรือเปล่า เพราะคนที่กำหนดนิยามว่าเหตุการณ์ไหนคือ misalignment และเหตุการณ์ไหนไม่ใช่ ก็ยังเป็นคนในบริษัทเองอยู่ดี
ประเด็นนี้แหละที่ผมว่าคนอ่านข่าวควรจับตา เพราะความโปร่งใสแบบที่บริษัทตรวจสอบตัวเอง มันต่างจากความโปร่งใสที่มีคนนอกเข้ามาตรวจสอบอย่างมีนัยสำคัญ ยังไม่ต้องพูดถึงว่ากรอบนี้จะบังคับใช้จริงจังแค่ไหน หรือจะเป็นแค่เอกสารที่ออกมาเพื่อสร้างความเชื่อมั่นในเชิงภาพลักษณ์
อีกมุมที่ควรคิดคือ ถ้ากรอบนี้ทำงานได้จริง มันอาจกลายเป็นมาตรฐานที่บริษัท AI อื่นต้องทำตามในอนาคต เพราะเรื่อง misalignment เป็นปัญหาที่ทุกเจ้าเจอ แต่ส่วนใหญ่ยังไม่มีระบบรายงานอย่างเป็นทางการแบบนี้ ถ้า OpenAI ทำแล้วได้ผล มันจะกดดันให้เจ้าอื่นต้องขยับตาม ซึ่งนั่นคือผลพลอยได้ที่ดีต่อทั้งวงการ
แต่ถ้ามันกลายเป็นแค่เอกสารที่ประกาศแล้วเงียบไป ไม่มีเคสใหม่ตามออกมา ไม่มีข้อมูลให้คนนอกตรวจสอบได้จริง มันก็จะเป็นอีกหนึ่งกรณีศึกษาว่าบริษัท AI พูดเรื่องความปลอดภัยได้เก่ง แต่พอถึงเวลาต้องเปิดข้อมูลจริงกลับไม่กล้า
กรอบรายงาน misalignment ของ OpenAI เป็นก้าวที่ถูกทิศ แต่ยังต้องพิสูจน์ด้วยของจริง ไม่ใช่แค่เอกสารสวยๆ เพราะความโปร่งใสที่บริษัทวัดตัวเอง ไม่ใช่ความโปร่งใสที่สังคมตรวจสอบได้ ถ้าเคสใหม่ไม่ตามออกมาให้เห็น มันก็แค่การประกาศเจตนาที่ฟังดูดีเท่านั้น
ที่มา: InfoQ AI/ML — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...