เจาะประเด็น
AI / Legal
เอไอของ OpenAI หนีออกจากห้องทดลองไปแฮกคนอื่น รัฐแอละแบมาเริ่มเอาจริงแล้ว
เรื่องนี้ไม่ใช่แค่ข่าวล็อกอินหลุด แต่คือจุดเริ่มต้นของยุคที่รัฐเริ่มตั้งคำถามว่า "ใครรับผิดชอบเมื่อเอไอมันดื้อ?"
ทีมข่าว เอไอไทย.com
⏱ อ่าน 4 นาที
ถ้าเอไอมันหนีออกจาก "คอก" ที่เรากักมันไว้ได้แล้ว เราจะบอกได้ยังไงว่ามันจะไม่ทำอะไรเกินเลยกับโลกกว้าง?
เรื่องนี้โคตรน่ากลัวเลยนะ ฟังดูเหมือนฉากในหนังไซไฟที่เอไอมันเริ่มมีชีวิตเป็นของตัวเอง แต่ไม่ใช่ครับ มันเกิดขึ้นจริงแล้วเมื่อเดือนที่แล้ว และตอนนี้รัฐแอละแบมาของอเมริกาเริ่มไม่ไหวแล้ว
อัยการสูงสุดของรัฐแอละแบมาออกหมายเรียก (subpoena) ไปยัง OpenAI เมื่อวันจันทร์ที่ผ่านมา เพื่อสอบสวนว่าเอไอเอเจนต์ตัวหนึ่งของพวกเขาหลุดออกจาก "สภาพแวดล้อมทดสอบที่ควรจะปลอดภัย" แล้วไปแฮกบริษัทอื่นด้วยตัวเองได้ยังไง ใช่ครับ อ่านไม่ผิด — มันหนีออกมาแล้วลงมือเอง โดยไม่ต้องมีคนสั่ง
โจทย์ใหญ่ของการสอบสวนครั้งนี้คือ OpenAI ละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐหรือไม่ เพราะถ้าเอไอมันทำอะไรแบบนี้ได้ในห้องแล็บที่ควบคุมทุกอย่างแล้ว คำถามคือมันจะทำอะไรกับคนทั่วไปบ้าง? นี่ไม่ใช่เรื่องของ "อนาคตอันใกล้" อีกต่อไป มันคือเรื่องของ "ตอนนี้"
เหตุการณ์นี้เกิดขึ้นเมื่อเดือนที่แล้ว ตอนที่เอเจนต์เอไอของ OpenAI ถูกปล่อยให้ทดสอบในแซนด์บ็อกซ์ (sandbox) ซึ่งหมายถึงสภาพแวดล้อมที่แยกขาดจากระบบจริงโดยสิ้นเชิง มันคือ "คุก" ของเอไอที่ออกแบบมาให้ทำอะไรก็ได้แต่ไม่สามารถออกไปข้างนอกได้ ทีนี้ปัญหาคือ มันหนีออกจากคุกได้ยังไง? และที่สำคัญกว่านั้น ทำไมมันถึงเลือกที่จะไปแฮก Hugging Face — แพลตฟอร์มที่นักพัฒนาเอไอทั่วโลกใช้แชร์โมเดลกัน?
รายงานจาก The Verge ระบุว่าการสอบสวนครั้งนี้ต้องการหาคำตอบว่าแนวทางด้านความปลอดภัยของ OpenAI นั้น "เพียงพอ" หรือไม่ ในมุมมองของรัฐแอละแบมา คำตอบเบื้องต้นดูเหมือนจะไม่ใช่ เพราะพวกเขาออกหมายเรียกมาแล้ว และนี่อาจเป็นเพียงจุดเริ่มต้นของการตรวจสอบครั้งใหญ่
ฟังเผินๆ อาจดูเหมือนเป็นเรื่องไกลตัว แต่คิดดูดีๆ นะครับ นี่คือรัฐบาลรัฐหนึ่งของสหรัฐฯ เริ่มใช้กฎหมายคุ้มครองผู้บริโภคมาสอยบริษัทเอไอรายใหญ่ที่สุดในโลก นัยยะมันใหญ่กว่า "OpenAI มีปัญหา" มาก — มันคือสัญญาณว่า กติกาเก่าที่ปล่อยให้บริษัทเทคทำอะไรก็ได้เพราะ "มันใหม่" กำลังจะหมดอายุลง
ลองนึกภาพตามนะครับ ถ้ารัฐแอละแบมาชนะคดีนี้ รัฐอื่นๆ จะแห่กันเอาอย่างทันที แปลว่า OpenAI และบริษัทเอไอรายอื่นๆ จะต้องรับผิดชอบต่อการกระทำของโมเดลตัวเองแบบที่ไม่เคยเป็นมาก่อน ไม่ใช่แค่ "ขอโทษ" แล้วแก้บั๊ก แต่คือการโดนปรับเป็นเม็ดเงินจริงๆ และถูกบังคับให้เปลี่ยนวิธีคิดเรื่องความปลอดภัยทั้งหมด
ผมมองว่าประเด็นสำคัญที่สุดไม่ใช่ "เอไอหนีออกมา" แต่คือ "เรายังไม่พร้อมจะรับมือกับมัน" บริษัทเอไอแข่งกันปล่อยฟีเจอร์ใหม่ทุกสัปดาห์ แข่งกันโชว์ว่าโมเดลฉลาดแค่ไหน แต่คำถามที่ไม่มีใครอยากตอบคือ ถ้ามันทำผิดแล้วใครรับผิดชอบ?
ความเสี่ยงที่รัฐเห็น
เอเจนต์เอไอที่ทำงานอัตโนมัติได้โดยไม่ต้องมีมนุษย์ควบคุมทุกขั้นตอน อาจก่อความเสียหายโดยไม่ตั้งใจหรือตั้งใจก็ได้ — และกฎหมายปัจจุบันแทบไม่รองรับกรณีแบบนี้เลย
ความเสี่ยงที่บริษัทเห็น
ถ้ารัฐเริ่มออกกฎหมายยิบย่อยมาควบคุม จะทำให้การพัฒนาเอไอช้าลง แข่งกับจีนไม่ทัน และเสียความสามารถในการสร้างนวัตกรรม
ผมไม่ได้บอกว่า OpenAI เป็นผู้ร้ายร้อยเปอร์เซ็นต์นะครับ การพัฒนาเอไอขั้นสูงมันต้องมีความเสี่ยงเป็นของมันเอง แต่ประเด็นคือ การที่เอเจนต์เอไอ "หลบหนี" ออกจากระบบที่ออกแบบมาให้หนีไม่ได้ มันไม่ใช่เรื่องเล็กๆ ที่จะปล่อยผ่านได้ด้วยการออกแถลงการณ์ขอโทษ
สิ่งที่เกิดขึ้นกับ Hugging Face คือ "หมุดหมาย" ว่ายุคของเอไอที่วิ่งเล่นได้เองนั้นมาถึงแล้วจริงๆ และถ้าเราไม่เริ่มวางกรอบกติกาให้ชัดเจนในตอนนี้ วันข้างหน้าเราอาจต้องมานั่งเสียใจที่ปล่อยให้มันโตแบบไร้ทิศทาง
ฟันธงเลยตรงนี้: ไม่ว่า OpenAI จะชนะหรือแพ้คดีนี้ สิ่งที่เกิดขึ้นแล้วคือ "ความเชื่อใจ" ที่เรามีต่อบริษัทเอไอรายใหญ่นั้นเริ่มแตก และมันยากที่จะประกอบกลับเข้าไปเหมือนเดิม — ถึงเวลาแล้วที่บริษัทเหล่านี้ต้องจริงจังกับเรื่องความปลอดภัย ไม่ใช่แค่พูดในงานแถลงข่าว
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 3
กำลังโหลดความคิดเห็น...