AI教父示警:殺手機器人10年內成真!

「AI教父」辛頓。(圖/摘自社羣平臺X)

加拿大多倫多大學名譽教授辛頓(Geoffrey Hinton)有「AI教父」之稱,他在接受日媒採訪時,談及人工智慧(AI)的威脅。他說,很多人以爲,要防止AI失控,只要關掉電源開關就可以,「但超越人類智慧的AI可以用語言操縱我們。或許會試圖說服我們不要關掉開關」。

辛頓是「深度學習」(Deep Learning)和神經網路(模仿人腦的數學模型)的先驅,其研究幫助奠定了AI發展的基礎。2023年,辛頓突然從已工作10多年的美國谷歌辭職,開始談論AI的威脅。

《日本經濟新聞》22日刊出了對辛頓的專訪內容。辛頓表示,如果給AI設定目標,作爲解決對策,它可能會找出對人類不利的方法。比方說,假設向AI下達遏制氣候變化的指令。AI會意識到爲了達到目的而有必要將人類清除,他擔心真的會付諸實施的風險。

辛頓指出,今後還可能會出現不同的AI相互競爭的局面。例如,如果AI之間發生數據中心等資源的爭奪,這將是一個像生物體一樣推動進化的過程。面對透過競爭變得更聰明的AI,我們人類將落在後面。

他還預測,未來10年內將出現自主殺死人類的機器人武器(殺手機器人)。他說,機器人武器或許遲早也會被限制,但是,這可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。

辛頓又談到,如果從主觀經驗這一角度進行說明,他認爲AI可以擁有和人類一樣的感覺。他說,人類也會經歷與客觀事實不符的事件。例如我喝了很多酒,早上醒來時,眼前因爲幻覺而出現了粉紅色的小象。我不會相信小象的存在,而是會認爲自己的感知系統沒有正常工作,因此這只是內在的體驗。

他說,透過照相機收集視覺訊息的AI也可以產生同樣的情況。例如,將物體放在相機前,用棱鏡使光線彎曲,形成產生物體在遠處的錯覺。如果對話式AI解釋稱感知系統因爲棱鏡而不能正常工作,那麼我們就可以說它有着和人類一樣的感覺。