เจาะประเด็น
AI
CEO Anthropic บอกถึงเวลาเหยียบเบรก AI ก่อนทุกอย่างจะสายเกินไป
คนที่สร้างโมเดล AI ระดับแนวหน้า กลับเป็นคนที่ออกมาบอกว่าเราควรชะลอมันลง
ทีมข่าว เอไอไทย.com
⏱ อ่าน 3 นาที
ถ้าคนที่กำลังแข่งสร้าง AI เร็วที่สุด ยังบอกว่าเร็วเกินไป คำถามคือแล้วคนที่เหลือควรทำยังไง
ดาริโอ อาโมเดย์ ซีอีโอของ Anthropic ออกมาเขียนบทความยาวแบบที่คนในวงการ AI ต้องหยุดอ่าน แล้วบอกตรงๆ ว่าถึงเวลาที่เราต้องชะลอการพัฒนา AI ลงแล้ว ไม่ใช่แค่ชะลอนะ แต่เขาถึงขั้นจะเปิดโมเดลของบริษัทให้ทีมประเมินภายนอกอย่าง METR เข้ามาตรวจสอบ เพื่อยืนยันว่า Anthropic ทำตามมาตรฐานความปลอดภัยที่ตัวเองให้สัญญาไว้จริง
อันนี้คือท่าที่น่าสนใจมาก เพราะปกติบริษัท AI ชั้นนำจะแข่งกันเปิดตัวโมเดลใหม่ ถี่ขึ้น แรงขึ้น เร็วขึ้น ไม่มีใครอยากเป็นคนบอกว่า "เดี๋ยวก่อน" แต่ซีอีโอของบริษัทที่สร้าง Claude กลับเลือกเดินสวนทาง แล้วบอกว่าการเร่งแบบไม่มีเพดานนี่แหละคือความเสี่ยงที่แท้จริง
ในบทความของเขา อาโมเดย์เสนอแผนสามขั้นตอนที่เขาเรียกว่า "pace the frontier" ซึ่งฟังดูเป็นศัพท์เทคนิค แต่ความหมายง่ายมาก คือการกำหนดจังหวะการพัฒนา AI ระดับแนวหน้าไม่ให้เร็วเกินกว่าที่สังคมและระบบความปลอดภัยจะรับไหว
ให้คนนอกเข้ามาตรวจสอบ
Anthropic จะเปิดโมเดลให้ทีมประเมินอิสระอย่าง METR เข้าถึง เพื่อตรวจสอบว่าบริษัททำตามมาตรฐานความปลอดภัยที่ประกาศไว้จริงหรือไม่
กำหนดจังหวะการพัฒนา
แทนที่จะเร่งเปิดตัวโมเดลใหม่ตามแรงกดดันตลาด ต้องมีกรอบเวลาที่ชัดเจนว่าค่อยๆ ปล่อยออกไปเมื่อพร้อมจริง
สร้างความโปร่งใสต่อสาธารณะ
ให้คนข้างนอกตรวจสอบได้ ไม่ใช่ปิดประตูบอกว่าทุกอย่างปลอดภัยแล้วเชื่อเราเถอะ
ฟังดูดีใช่ไหม แต่ก็ต้องถามกลับเหมือนกันว่า บริษัทที่กำลังแข่งกันดุเดือดกับ OpenAI และ Google จะชะลอจริงได้แค่ไหนในทางปฏิบัติ เพราะต่อให้ Anthropic ชะลอ แต่คู่แข่งไม่ชะลอด้วย คนที่ได้เปรียบก็คือคนที่เร่ง ซึ่งนี่คือกับดักคลาสสิกของวงการเทคโนโลยี ที่ทุกคนรู้ว่าควรช้ากว่า แต่ไม่มีใครกล้าหยุดก่อน
มุมที่น่าสนใจคือ อาโมเดย์ไม่ได้บอกให้หยุดพัฒนา แต่บอกให้ "กำหนดจังหวะ" ซึ่งเป็นคำที่ฉลาดมาก เพราะมันไม่ขัดกับผลประโยชน์ทางธุรกิจของตัวเอง แต่ในขณะเดียวกันก็ส่งสัญญาณไปยังหน่วยงานกำกับดูแลและสาธารณะว่า เราเป็นบริษัทที่ใส่ใจเรื่องความปลอดภัยจริงนะ
แต่ถ้ามองในแง่ดี การที่ซีอีโอของบริษัท AI ชั้นนำออกมาพูดเรื่องนี้แบบเปิดหน้าอย่างน้อยก็ทำให้การถกเถียงเรื่องความปลอดภัยของ AI ไม่ได้ถูกผลักไปให้เป็นเรื่องของนักวิชาการหรือนักกิจกรรมอีกต่อไป แต่มันกลายเป็นเรื่องที่คนสร้างมันเองต้องตอบให้ได้
การที่คนสร้าง AI ออกมาบอกว่าเราควรชะลอมัน เป็นสัญญาณที่ทั้งน่าดีใจและน่ากังวลในเวลาเดียวกัน — น่าดีใจเพราะอย่างน้อยมีคนในวงการที่พูดตรงๆ แต่น่ากังวลเพราะถ้าคนที่สร้างมันยังต้องออกมาบอกแบบนี้ นั่นหมายความว่าสถานการณ์จริงอาจเร่งเกินกว่าที่เราคิดไว้มาก
ที่มา: The Verge — อ่านต้นฉบับ
ความคิดเห็น 5
กำลังโหลดความคิดเห็น...