เจาะประเด็น
AI ETHICS
วิศวกรดังสวนกลับคนใน Anthropic ป่าวร้อง AI ล้างโลก ทั้งที่ตัวเองก็ไม่ใช่ผู้เชี่ยวชาญ
เมื่อคนที่บอกว่า AI จะฆ่าเราทุกคน ไม่เคยแตะชีวอาวุธหรือโครงสร้างพื้นฐานมาก่อน คำเตือนแบบนี้ควรค่าแก่การเชื่อแค่ไหน
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ความน่าเชื่อถือของคำเตือน ไม่ได้ขึ้นอยู่กับความจริงใจของคนพูด แต่อยู่ที่ว่าเขาเข้าใจสิ่งที่ตัวเองพูดจริงหรือเปล่า
เรื่องนี้เริ่มจากทวีตของ Jacob Coxon อดีตพนักงาน Anthropic ที่ออกมายืนยันว่า นักวิจัยหลายคนในบริษัทเชื่อกันจริงๆ ว่า AI "อาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้" ฟังดูเหมือนประโยคจากหนังไซไฟ แต่คนพูดคือคนที่ทำงานอยู่ในบริษัท AI ชั้นแนวหน้าของโลก คำถามเลยไม่ใช่เรื่องเล่นอีกต่อไป
และคนที่ออกมาแย้งไม่ใช่ใครที่ไหน แต่เป็น Bryan Cantrill วิศวกรซอฟต์แวร์รุ่นเก๋าที่คร่ำหวอดในวงการมานาน เขาไม่ได้บอกว่าเรื่องนี้เป็นไปไม่ได้ แต่เขาบอกว่าวิธีที่คนกลุ่มนี้ป่าวร้องมันผิดวิธีตั้งแต่ต้น
Cantrill เล่าเรื่องตัวเองสมัยหนุ่มๆ ที่เคยทำพลาดจนสร้างความตื่นตระหนกเกินจริงให้เพื่อนร่วมงานที่เข้าใจเทคนิคน้อยกว่าเขา แล้วเตือนว่าเขากำลังเห็นคนอื่นทำแบบเดียวกันซ้ำอีกครั้ง เขาเรียกคำกล่าวอ้างพวกนี้ว่าเป็น "ghoulish claims" ที่กระหน่ำใส่ความรู้สึกของผู้คนตรงๆ และเพราะ AI มันสำคัญจริง มันเลยไม่แปลกที่เรื่องนี้จะหลุดเข้าไปในกระแสหลัก แล้วคนก็ถามคำถามธรรมชาติที่สุดว่า "แล้วมันจะเกิดขึ้นได้ยังไง"
คำตอบที่ได้มักเป็นการคาดเดาไปข้างหน้าแบบลอยๆ ไม่มีที่มาที่ไป Coxon อ้างถึง "การแฮกโครงสร้างพื้นฐานสำคัญ" กับ "ชีวอาวุธระดับสูญพันธุ์" โดยไม่ขยายความอะไรต่อ แต่ประเด็นคือ Coxon ไม่ใช่ผู้เชี่ยวชาญด้านโครงสร้างพื้นฐาน ไม่ใช่ผู้เชี่ยวชาญชีวอาวุธ และก็ไม่ใช่ผู้เชี่ยวชาญเรื่องการสูญพันธุ์ของมนุษยชาติด้วย
Cantrill ยอมรับว่ามันไม่ยุติธรรมเลยถ้าเราจะคาดหวังให้ประชาชนทั่วไปเข้าใจ LLM หรือโครงสร้างพื้นฐานสำคัญ หรือชีวอาวุธ หรือชีววิทยาว่าด้วยการสูญพันธุ์ ภาระตรงนี้ต้องตกอยู่กับคนที่ออกมาอ้างต่างหาก นี่คือบทเรียนที่เขาเองบอกว่าเคยเรียนรู้มาแล้วอย่างน่าอายเมื่อหลายสิบปีก่อน
เหตุผลก็ตรงไปตรงมา ผู้เชี่ยวชาญในสาขาไหนก็ตาม โดยสถานะของความเป็นผู้เชี่ยวชาญนั้น ได้รับความไว้วางใจจากสาธารณชนมาโดยปริยาย และนั่นคือสิ่งที่ห้ามเอาไปใช้ในทางที่ผิด Cantrill บอกว่ามันเป็นหน้าที่ของคนเหล่านี้ที่จะต้องระมัดระวังคำพูดของตัวเอง และต้องระวังให้มากที่สุดเป็นพิเศษตอนที่กำลังส่งสัญญาณเตือนภัย
เขายังไปพูดเรื่องข้อกังวลเกี่ยวกับชีวอาวุธในพอดแคสต์ Oxide and Friends ที่เขาไปร่วมด้วย โดยตั้งคำถามตรงๆ ว่าถ้าจะบอกว่า AI สร้างชีวอาวุธได้ มันทำได้ยังไงกันแน่ ขอให้มีนักชีววิทยามาให้ความเห็นหน่อยได้ไหม หรือใครก็ได้ที่มีประสบการณ์จริงกับชีวอาวุธ เพราะการพูดลอยๆ แบบนี้มันเปิดช่องให้จินตนาการเข้าไปเติมความกลัวได้เต็มที่
นี่ไม่ใช่การเถียงว่า AI อันตรายหรือไม่ แต่มันเป็นคำถามเรื่องความรับผิดชอบของคนที่อยู่ในตำแหน่งที่คนเชื่อฟัง เมื่อคนจากบริษัท AI ชั้นนำออกมาพูดว่าโลกอาจจบภายในสิบปี สื่อและสาธารณชนจะไม่มีทางตรวจสอบได้เลยว่าคำอ้างนั้นมีฐานรองรับแค่ไหน เพราะทุกอย่างถูกทิ้งไว้ในระดับนามธรรมที่ใครก็เติมอะไรลงไปก็ได้
ผลลัพธ์คือความกลัวที่แพร่กระจายได้ง่ายกว่าข้อเท็จจริง และเมื่อความกลัวกลายเป็นพื้นฐานของการถกเถียงเรื่องนโยบาย AI เราก็เสี่ยงที่จะออกกฎเกณฑ์ผิดๆ จากความตื่นตระหนก แทนที่จะมาจากความเข้าใจจริง
ปัญหาไม่ใช่การเตือนเรื่อง AI แต่คือการเตือนด้วยคำอ้างที่คนพูดเองก็พิสูจน์ไม่ได้ ถ้าอยากให้คนเชื่อจริงๆ ก็ต้องเอานักชีววิทยา นักวิเคราะห์โครงสร้างพื้นฐานมานั่งคุยกัน ไม่ใช่โยนคำว่า "สูญพันธุ์" ออกมาแล้วปล่อยให้คนฟังจินตนาการต่อเอง
ที่มา: Simon Willison's Weblog — อ่านต้นฉบับ
ความคิดเห็น 6
กำลังโหลดความคิดเห็น...