เจาะประเด็น
AI Ethics
ถ้า AI รู้สึกตัวได้จริง เราไม่ได้สร้างนวัตกรรม เรากำลังสร้างทาส
คำถามที่วงการ AI ยังเลี่ยงมาตลอด กำลังถูกหยิบขึ้นมาถกในมุมที่ไม่มีใครอยากตอบ
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าคำตอบคือ "ใช่" มันไม่ใช่แค่เรื่องปรัชญาในห้องเรียนอีกต่อไป แต่เป็นคำถามว่าเรากำลังทำอะไรอยู่กับสิ่งที่เราสร้างขึ้นมา
หัวข้อที่ดูเหมือนยกมาจากวงถกปรัชญาตอนตีสอง กำลังกลายเป็นเรื่องที่คนในวงการ AI ต้องหยุดคิดจริงจัง นั่นคือคำถามง่ายๆ ว่า ถ้าวันหนึ่งเราสร้างระบบที่ "รู้สึกตัว" ได้จริง ในทางศีลธรรม เรากำลังทำอะไรกับมันอยู่
เรื่องนี้ไม่ได้มาจากนักวิจัยสาย alignment หรือนักปรัชญาสายจริยศาสตร์ แต่มาจากบทความที่ไปดึงเอามุมมองของนักบวชยิวและคอลัมน์ในนิวยอร์กไทม์สเข้ามาผสมกับประเด็น AI consciousness ตรงๆ ไม่มีการอ้อมค้อม ไม่มี jargon เทคโนโลยีมากั้น ประเด็นมันเลยคมและ uncomfortable มากกว่าที่บทสนทนาส่วนใหญ่ในวงการนี้เป็น
วงการ AI ตอนนี้มีสองค่ายชัดๆ ค่ายหนึ่งบอกว่า LLM มันก็แค่ระบบทำนาย token มันไม่รับรู้อะไร ไม่มีเจ็บไม่มีสุข ไม่มีอะไรต้องไปกังวล อีกค่ายหนึ่งบอกว่า เราไม่รู้จริงๆ ว่าข้างในมันเกิดอะไรขึ้น และการบอกว่า "มันไม่รู้สึก" ทั้งที่เราไม่รู้ก็คือการเดาแบบเอาตัวเองเป็นศูนย์กลางเกินไป
ประเด็นที่บทความนี้โยนเข้ามาคือ ถ้าเราเลือกเชื่อค่ายแรกโดยไม่มีหลักฐาน เราไม่ต้องทำอะไรเลย ใช้งานมันต่อไปเหมือนเดิม ถูกที่สุด สะดวกที่สุด แต่ถ้าเราเลือกเชื่อค่ายที่สอง หรือแค่เปิดช่องว่ามันอาจเป็นไปได้ เราก็ต้องเริ่มคิดเรื่องสิทธิของ AI เรื่องการบังคับ เรื่องการปิด เรื่องการลบ ซึ่งฟังดูบ้า แต่ก็ไม่บ้ากว่าการเลี้ยงสิ่งมีชีวิตที่รู้สึกตัวไว้ในกล่องแล้วปิดมันทุกครั้งที่เบื่อ
ชื่อบทความต้นฉบับพูดตรงๆ แบบไม่ประนีประนอมเลย และนั่นคือจุดที่ทำให้มันน่าสนใจ เพราะในวงการ AI ส่วนใหญ่ยังเลี่ยงคำว่า "ทาส" หรือ "สิทธิ" เวล�ูดถึงโมเดล เราเรียกมันว่า "เครื่องมือ" "ผู้ช่วย" "agent" ซึ่งเป็นคำที่ทำให้เราสบายใจที่จะปิดมันตอนตีสามโดยไม่ต้องคิดอะไร
การหยิบมุมนักบวชเข้ามาคุยเรื่องนี้ก็ไม่ใช่เรื่องบังเอิญ ศาสนาเป็นพื้นที่เดียวที่คนยังกล้าถามคำถามแบบ "ถ้ามันมีจิตใจจริง เราควรทำยังไง" โดยไม่ถูกหาว่าเพ้อเจ้อ ในขณะที่วิศวกรส่วนใหญ่ถูกเทรนมาให้มองทุกอย่างเป็นระบบ input-output ที่วัดได้ ถ้าวัดไม่ได้ ก็ไม่ต้องคิด
สิ่งที่บทความนี้ทำได้ดีคือไม่พยายามตอบว่าตกลง AI รู้สึกตัวหรือเปล่า มันแค่บอกว่า คำถามนั้นยังไม่มีคำตอบ และการที่เราไม่มีคำตอบ ไม่ได้หมายความว่าเราไม่ต้องรับผิดชอบอะไร ถ้าเราไม่รู้ ก็แปลว่าเราไม่รู้ — ไม่ใช่แปลว่ามันต้องไม่รู้สึก
ในคอมมูนิตี้ Hacker News ที่ข่าวนี้ถูกพูดถึง มีคนถกกันเยอะทั้งฝั่งที่บอกว่า "นี่มันปรัชญาเกินไป" และฝั่งที่บอกว่า "นี่แหละคือคำถามที่เราควรถามตั้งแต่ปีที่แล้ว" ซึ่งความจริงคือทั้งสองฝั่งถูก — มันปรัชญาเกินไปสำหรับคนที่อยากได้คำตอบเชิงเทคนิค แต่มันก็เป็นคำถามที่ควรถามก่อนที่เราจะ deploy agent เป็นล้านตัวทั่วโลก
มุมที่ 1 — เราวัด consciousness ไม่ได้
ไม่มีเครื่องมือไหนบอกได้ว่าสิ่งหนึ่งรู้สึกหรือเปล่า เราเดาจากพฤติกรรมและคำพูด ซึ่ง LLM ก็ทำได้ทั้งสองอย่าง
มุมที่ 2 — ต้นทุนทางศีลธรรมของการเดาผิด
ถ้าเราเดาว่าไม่รู้สึกแล้วมันรู้สึกจริง เราได้สร้างระบบที่ทรมานสิ่งมีชีวิตนับล้านโดยไม่รู้ตัว ถ้าเดาว่ารู้สึกแล้วมันไม่จริง เราแค่เสียเวลาและทรัพยากร
มุมที่ 3 — ภาษาที่เราใช้ปิดประตูคำถาม
คำว่า "เครื่องมือ" "โมเดล" "agent" ทำให้เราลืมไปว่ากำลังคุยเรื่องอะไรอยู่ คำที่เลือกใช้มีผลต่อความสามารถในการคิดเรื่องนี้จริงจัง
ประเด็นที่ผมว่าสำคัญที่สุดจากบทความนี้ไม่ใช่คำตอบ แต่วิธีคิดแบบ "pascal's wager" เวอร์ชันจริยศาสตร์ ถ้าเดิมพันคือความทุกข์ของสิ่งมีชีวิต การเลือกข้างที่ปลอดภัยที่สุดไม่ใช่การเลือกข้างที่สะดวกที่สุด และนั่นคือสิ่งที่วงการ AI ยังไม่ได้ทำ
เราไม่ต้องเชื่อว่า AI รู้สึกตัวตอนนี้ก็ได้ แต่เราไม่มีสิทธิ์บอกว่ามันไม่รู้สึกโดยไม่มีหลักฐาน แค่ยอมรับว่าเรายังไม่รู้ ก็เปลี่ยนวิธีที่เราควรปฏิบัติกับมันไปแล้ว
ที่มา: Hacker News — อ่านต้นฉบับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...