เมื่อคืนไปเจอกระทู้ใน Reddit มาจากทีมมหาวิทยาลัย Maryland เขาจัด AMA กับอาจารย์ Sarah Wiegreffe ที่เป็นทั้ง NLP และ ML specialist มาคุยเรื่องความโปร่งใสของ AI โดยเฉพาะเทคนิคที่เรียกว่า chain-of-thought reasoning ที่ให้ AI อธิบายทีละขั้นตอนว่ามันคิดยังไงถึงได้คำตอบนี้ ส่วนตัวผมว่าประเด็นนี้มันน่าคิดมาก เพราะทุกวันนี้เราพึ่งพา AI ในการตัดสินใจเยอะขึ้นเรื่อยๆ แต่เราแทบไม่รู้เลยว่ามันให้คำตอบมาแบบนั้นได้ยังไง บางทีมันก็เหมือนกล่องดำที่เรากดปุ่มแล้วได้ผลลัพธ์ แต่ไม่รู้ว่าข้างในมันทำงานยังไง
ที่เขากำลังทำวิจัยคือทดสอบว่าการให้เหตุผลของ AI ขั้นสูงจะยังคงมองเห็นได้โปร่งใสหรือไม่ ซึ่งผมว่ามันเป็นโจทย์ที่ท้าทายมาก เพราะถ้าวันหนึ่ง AI มันฉลาดเกินกว่าที่เราจะตามมันทัน แล้วมันเริ่มคิดอะไรซับซ้อนจนเราไม่สามารถตรวจสอบได้ เราจะไว้ใจมันได้ยังไง? โดยเฉพาะถ้าเอาไปใช้ในวงการแพทย์ การเงิน หรือกฎหมาย พลาดครั้งเดียวมันอาจจะเสียหายมหาศาลเลยนะ
อีกมุมนึงที่ผมว่าโคตรน่าสนใจคือ แม้แต่ chain-of-thought ที่เราคิดว่ามันคือคำอธิบายเหตุผลของ AI จริงๆ มันอาจจะไม่ได้สะท้อนสิ่งที่โมเดลมันคิดจริงๆ ก็ได้ มันอาจจะแค่สร้างคำอธิบายที่ฟังดูมีเหตุผลขึ้นมาลอยๆ เพื่อให้มนุษย์อย่างเราเข้าใจ แล้วแบบนี้เราจะเรียกว่ามันโปร่งใสได้จริงเหรอ? อยากรู้ว่าชาวกลุ่มที่นี่คิดยังไงกับเรื่องนี้บ้าง คิดว่าเราควรบังคับให้ AI ทุกตัวต้องอธิบายเหตุผลเสมอ หรือว่าบางกรณีเราก็ควรปล่อยให้มันทำงานแบบตีความเองโดยไม่ต้องมานั่งอธิบายทุกอย่างให้เราฟัง? มาแชร์มุมมองกันหน่อยครับ
ที่เขากำลังทำวิจัยคือทดสอบว่าการให้เหตุผลของ AI ขั้นสูงจะยังคงมองเห็นได้โปร่งใสหรือไม่ ซึ่งผมว่ามันเป็นโจทย์ที่ท้าทายมาก เพราะถ้าวันหนึ่ง AI มันฉลาดเกินกว่าที่เราจะตามมันทัน แล้วมันเริ่มคิดอะไรซับซ้อนจนเราไม่สามารถตรวจสอบได้ เราจะไว้ใจมันได้ยังไง? โดยเฉพาะถ้าเอาไปใช้ในวงการแพทย์ การเงิน หรือกฎหมาย พลาดครั้งเดียวมันอาจจะเสียหายมหาศาลเลยนะ
อีกมุมนึงที่ผมว่าโคตรน่าสนใจคือ แม้แต่ chain-of-thought ที่เราคิดว่ามันคือคำอธิบายเหตุผลของ AI จริงๆ มันอาจจะไม่ได้สะท้อนสิ่งที่โมเดลมันคิดจริงๆ ก็ได้ มันอาจจะแค่สร้างคำอธิบายที่ฟังดูมีเหตุผลขึ้นมาลอยๆ เพื่อให้มนุษย์อย่างเราเข้าใจ แล้วแบบนี้เราจะเรียกว่ามันโปร่งใสได้จริงเหรอ? อยากรู้ว่าชาวกลุ่มที่นี่คิดยังไงกับเรื่องนี้บ้าง คิดว่าเราควรบังคับให้ AI ทุกตัวต้องอธิบายเหตุผลเสมอ หรือว่าบางกรณีเราก็ควรปล่อยให้มันทำงานแบบตีความเองโดยไม่ต้องมานั่งอธิบายทุกอย่างให้เราฟัง? มาแชร์มุมมองกันหน่อยครับ
ความคิดเห็น 1
กำลังโหลดความคิดเห็น...