FacebookRef

AI 教父 Geoffrey Hinton 離開 Google, 原因是他更能自由談論 AI 的風險。這件事紐約時報有詳細的專訪, 大部份的報導也多少參考這則新聞。為了讀原文, 我只好訂了 NY Times。

重點不是 AI 有沒有意識, 甚至重點不一定是 AGI 會不會實現, 而是 AI

「經常從分析大量數據中學到意想不到的行為。」

這裡不是AI 有自主意識要毀了人類, 而是我們無法預測 AI 的行為。尤其是:

「當個人和公司允許 AI 系統不僅生成自己的程式，而且實際上在自己的電腦上運行這些程式時，這就成了一個問題。」