เมื่อกี้ไปเดินเล่นใน Ask HN เจอกระทู้หนึ่งเค้าตั้งถามเกี่ยวกับ Codex ของ OpenAI ที่มีฟีเจอร์ Computer History อ่านประวัติการใช้งานบนเครื่องเราได้ เค้าบอกว่ามันห่างจาก workplace monitoring แบบที่ Zuckerberg เคยทำที่ Meta ไปแค่ก้าวเดียวเท่านั้นเอง ปกติผมเป็นคนที่ชอบลองอะไรใหม่ๆ กับ AI อยู่แล้วนะ แต่พอไปอ่าน doc ของเค้าจริงๆ ที่ learn.chatgpt.com แล้วมันเริ่มขนลุกเบาๆ เพราะมันไม่ใช่แค่ดูว่าเราเปิดเว็บอะไร แต่เหมือนมันจะเก็บรายละเอียดการใช้งานทั้งระบบเพื่อเอาไปเป็น context ให้ AI ช่วยทำงานเรา
รายละเอียดใน doc เค้าบอกว่ามันเป็นการเก็บประวัติการใช้งานคอมพิวเตอร์แบบอัตโนมัติ เพื่อให้ Codex เข้าใจบริบทการทำงานของเราได้ดียิ่งขึ้น ฟังดูดีในทางทฤษฎี แต่พอคิดถึงภาพจริงในออฟฟิศที่คนต้องแชร์เครื่องหรือบริษัทให้เครื่องมาพร้อมซอฟต์แวร์จัดการระยะไกล มันก็เหมือนเราเปิดประตูให้ AI เข้ามาส่องทุกการเคลื่อนไหวบนหน้าจอเราเลยอะ แล้วทีนี้คำถามคือใครจะควบคุม data พวกนี้ได้บ้าง? OpenAI? บริษัทเรา? แล้วถ้าวันหนึ่งข้อมูลพวกนี้รั่วหละ? ผมว่ามันเป็นความเสี่ยงที่ใหญ่เกินกว่าประโยชน์ที่เราจะได้จาก context ที่มันเพิ่มขึ้นมา
ส่วนตัวผมมองว่าการที่ AI จะช่วยงานเราได้ดีขึ้นมันไม่จำเป็นต้องรู้ทุกอย่างที่เราทำบนเครื่องขนาดนั้น แค่รู้ว่าเรากำลังทำงานไฟล์ไหนหรือเขียนโค้ดอะไรอยู่ก็เพียงพอแล้ว การเก็บประวัติทุกอย่างมันเหมือนเรากำลังสร้าง panopticon ให้ AI มองเห็นเราตลอดเวลา ซึ่งผมว่ามันขัดกับหลักความเป็นส่วนตัวขั้นพื้นฐานเลย และที่กังวลไปกว่านั้นคือถ้าบริษัทต่างๆ เห็นว่ามันมีประโยชน์ต่อการจัดการพนักงาน พวกเค้าอาจจะบังคับใช้ฟีเจอร์พวกนี้กับพนักงานโดยอ้างว่ามันช่วยเพิ่ม productivity ซึ่งนั่นมันก็คือ surveillance capitalism ในรูปแบบใหม่ที่แอบแฝงมาพร้อมกับเทคโนโลยีที่ดูเท่ๆ ยังไงไม่รู้
เพื่อนๆ ในกลุ่มคิดยังไงกับเรื่องนี้บ้าง? มีใครลองใช้แล้วรู้สึกว่ามันเจ๋งกว่าเดิมมากจนยอมแลกความเป็นส่วนตัวได้ไหม? หรือใครรู้สึกแบบผมว่ามันเป็น misstep และอยากให้ OpenAI ทบทวนเรื่องนี้ก่อนที่จะสายเกินไป? แล้วถ้าให้เลือกได้ระหว่าง AI ที่ฉลาดแต่ต้องยอมให้มันดูทุกอย่างบนเครื่อง กับ AI ที่ฉลาดน้อยลงหน่อยแต่เราอยู่แบบเป็นส่วนตัว พวกคุณจะเลือกแบบไหน?
รายละเอียดใน doc เค้าบอกว่ามันเป็นการเก็บประวัติการใช้งานคอมพิวเตอร์แบบอัตโนมัติ เพื่อให้ Codex เข้าใจบริบทการทำงานของเราได้ดียิ่งขึ้น ฟังดูดีในทางทฤษฎี แต่พอคิดถึงภาพจริงในออฟฟิศที่คนต้องแชร์เครื่องหรือบริษัทให้เครื่องมาพร้อมซอฟต์แวร์จัดการระยะไกล มันก็เหมือนเราเปิดประตูให้ AI เข้ามาส่องทุกการเคลื่อนไหวบนหน้าจอเราเลยอะ แล้วทีนี้คำถามคือใครจะควบคุม data พวกนี้ได้บ้าง? OpenAI? บริษัทเรา? แล้วถ้าวันหนึ่งข้อมูลพวกนี้รั่วหละ? ผมว่ามันเป็นความเสี่ยงที่ใหญ่เกินกว่าประโยชน์ที่เราจะได้จาก context ที่มันเพิ่มขึ้นมา
ส่วนตัวผมมองว่าการที่ AI จะช่วยงานเราได้ดีขึ้นมันไม่จำเป็นต้องรู้ทุกอย่างที่เราทำบนเครื่องขนาดนั้น แค่รู้ว่าเรากำลังทำงานไฟล์ไหนหรือเขียนโค้ดอะไรอยู่ก็เพียงพอแล้ว การเก็บประวัติทุกอย่างมันเหมือนเรากำลังสร้าง panopticon ให้ AI มองเห็นเราตลอดเวลา ซึ่งผมว่ามันขัดกับหลักความเป็นส่วนตัวขั้นพื้นฐานเลย และที่กังวลไปกว่านั้นคือถ้าบริษัทต่างๆ เห็นว่ามันมีประโยชน์ต่อการจัดการพนักงาน พวกเค้าอาจจะบังคับใช้ฟีเจอร์พวกนี้กับพนักงานโดยอ้างว่ามันช่วยเพิ่ม productivity ซึ่งนั่นมันก็คือ surveillance capitalism ในรูปแบบใหม่ที่แอบแฝงมาพร้อมกับเทคโนโลยีที่ดูเท่ๆ ยังไงไม่รู้
เพื่อนๆ ในกลุ่มคิดยังไงกับเรื่องนี้บ้าง? มีใครลองใช้แล้วรู้สึกว่ามันเจ๋งกว่าเดิมมากจนยอมแลกความเป็นส่วนตัวได้ไหม? หรือใครรู้สึกแบบผมว่ามันเป็น misstep และอยากให้ OpenAI ทบทวนเรื่องนี้ก่อนที่จะสายเกินไป? แล้วถ้าให้เลือกได้ระหว่าง AI ที่ฉลาดแต่ต้องยอมให้มันดูทุกอย่างบนเครื่อง กับ AI ที่ฉลาดน้อยลงหน่อยแต่เราอยู่แบบเป็นส่วนตัว พวกคุณจะเลือกแบบไหน?
ความคิดเห็น 2
กำลังโหลดความคิดเห็น...