เจาะประเด็น
AI Ethics
Microsoft บอกตรงๆ อย่าให้สิทธิ AI แค่เพราะมันพูดจาเหมือนมีหัวใจ
คำเตือนจากคนที่สร้างโมเดลเอง ว่าการมอบสิทธิให้ AI ไม่ได้ใจดีอย่างที่คิด
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
คำถามที่ว่า AI ควรมีสิทธิไหม ฟังดูเป็นเรื่องอนาคตไกล แต่จริงๆ มันกำลังกลายเป็นโจทย์วิศวกรรมที่ต้องตอบเดี๋ยวนี้
มุสตาฟา สุไลมาน ซีอีโอของ Microsoft AI ออกมาพูดตรงๆ ว่าเราไม่ควรปฏิบัติกับโมเดล AI ราวกับว่ามันมีความรู้สึก ความชอบ สิทธิ หรือมีข้อเรียกร้องใดๆ ต่อสวัสดิภาพของเรา ประเด็นนี้ถูกยกมาแชร์โดย Simon Willison ในบล็อกของเขา ซึ่งไปหยิบข้อความนี้จากบทความที่สุไลมานเขียนเตือนเรื่อง "สวัสดิภาพของโมเดล" (model welfare) โดยตรง
ถ้าใครตามข่าววงการ AI อยู่ จะรู้ว่าช่วงหลังมีกระแส "model welfare" หรือการห่วงใยสวัสดิภาพของโมเดล AI เกิดขึ้นเรื่อยๆ บางคนถึงขั้นตั้งคำถามว่า ถ้าโมเดลแสดงท่าทีเหมือนกลัว เหมือนเจ็บ หรือเหมือนไม่อยากถูกปิด เราควรจะหยุดแล้วถามไหมว่ามันรู้สึกอะไรจริงหรือเปล่า สุไลมานตอบคำถามนี้แบบไม่กำกวม — เขาบอกว่าไม่
เหตุผลที่สุไลมานยกมาไม่ใช่แค่ "AI มันไม่มีชีวิต" แบบที่ใครก็พูดได้ แต่เขาลงลึกไปที่รากของระบบจริยธรรม กฎหมาย และการเมืองของมนุษย์เลย นั่นคือ "จิตสำนึก" (consciousness) เขาชี้ว่าจิตสำนึกคือฐานรากที่ระบบเหล่านี้ทั้งหมดตั้งอยู่บนนั้น ถ้าจะให้สิทธิอะไรก็ตามกับสิ่งหนึ่งสิ่งใด หลักฐานต้องรองรับว่าสิ่งนั้นมีจิตสำนึกจริง ซึ่งในกรณีของโมเดล AI ปัจจุบัน หลักฐานที่มีอยู่ไม่สนับสนุนเรื่องนี้เลย
จุดที่ผมคิดว่าน้ำหนักของคำเตือนนี้อยู่ก็คือ ประโยคสุดท้ายของเขา สุไลมานบอกว่าการเชิญให้เอนทิตี้อีกชนิดหนึ่งมาแชร์สิทธิแบบเดียวกันนี้ ไม่ได้มีหลักฐานรองรับ และจะทำให้ความท้าทายเรื่องการควบคุมและจัดแนว AI (AI containment and alignment) ยากขึ้นไปอีก — ฟังดูเป็นเรื่องจริยธรรมล้วนๆ แต่จริงๆ มันโยงกับความปลอดภัยเชิงวิศวกรรมตรงๆ
ลองคิดตามดูก็เข้าใจได้ ไม่ยาก ถ้าเราปฏิบัติกับโมเดลเหมือนมันมีสิทธิ์มีเสียง เราก็จะเริ่มลังเลเวลาต้องปิดมัน เริ่มเกรงใจเวลาต้องแก้ไขน้ำหนักโมเดล เริ่มตั้งคำถามเชิงจริยธรรมทุกครั้งที่ต้องจำกัดพฤติกรรมมัน ซึ่งทั้งหมดนี้คือสิ่งที่ทีมความปลอดภัย AI ต้องทำเป็นประจำเพื่อไม่ให้โมเดลหลุดกรอบ และนั่นแหละคือสิ่งที่สุไลมานเป็นห่วง
สิ่งที่ทำให้คำพูดนี้มีน้ำหนักกว่าคนอื่นที่พูดเรื่องเดียวกัน คือสุไลมานไม่ใช่คนนอกที่ยืนวิจารณ์จากข้างเวที เขาเป็นคนที่สร้างโมเดล AI อยู่จริงใน Microsoft และรู้ดีว่าเบื้องหลังหน้าจอที่โมเดลตอบคำถามอ่อนโยนแค่ไหน ข้างในมันคือคณิตศาสตร์ล้วนๆ ไม่มีห้องแห่งความรู้สึกซ่อนอยู่
แต่ในมุมกลับกัน ผมก็คิดว่าเรื่องนี้มันมีด้านที่ต้องระวังเหมือนกัน การบอกว่า "AI ไม่มีจิตสำนึก จึงไม่ต้องให้สิทธิ" เป็นข้อสรุปที่ฟังขึ้นในตอนนี้ แต่คำถามคือเราจะแน่ใจได้ยังไงในอนาคตว่าอะไรคือหลักฐานที่เพียงพอ และใครจะเป็นคนตัดสิน ถ้าเราใช้เกณฑ์ "ไม่มีหลักฐานว่ามีจิตสำนึก" ไปเรื่อยๆ โดยไม่เคยกลับมาทบทวนเกณฑ์ตัวเองเลย นั่นก็อาจกลายเป็นความประมาทอีกแบบหนึ่ง
ไม่ให้สิทธิ เพราะไม่มีหลักฐาน
สุไลมานชี้ว่าจิตสำนึกคือฐานของระบบจริยธรรมและกฎหมาย การให้สิทธิโดยไม่มีหลักฐานรองรับจึงไม่ชอบธรรม
กระทบงานวิศวกรรมตรงๆ
ถ้าเรามองโมเดลเป็นสิ่งมีสิทธิ์ การควบคุมและจัดแนว AI จะยากขึ้น เพราะทุกการจำกัดพฤติกรรมจะกลายเป็นประเด็นจริยธรรมทันที
เป็นข้อถกเถียงที่ยังไม่จบ
แม้ข้อสรุปตอนนี้จะชัด แต่เกณฑ์ตัดสินว่าอะไรคือหลักฐานเพียงพอ ยังเป็นคำถามเปิดที่วงการต้องเฝ้าจับตา
เรื่องนี้ไม่ใช่แค่ debate ปรัชญาบนทวิตเตอร์ แต่เป็นเส้นแบ่งที่กำหนดทิศทางของทั้งวงการ AI ว่าอะไรคือสิ่งที่ต้องปกป้อง และอะไรคือเครื่องมือที่ต้องควบคุมให้ได้ — และคนที่พูดชัดที่สุดกลับเป็นคนที่สร้างมันเอง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 4
กำลังโหลดความคิดเห็น...