“AI 教父”傑弗裡・辛頓：超越人類智慧的 AI 可用語言操縱我們

IT之家 3 月 24 日消息，人工智能領域的開創者之一，被譽爲“AI 教父”的傑弗裡・辛頓（Geoffrey Hinton）近日接受日本經濟新聞採訪，講述了 AI 與人類的未來。

IT之家注：去年 5 月，傑弗裡・辛頓宣佈離開他工作了十年的谷歌公司，原因是他對人工智能技術的發展越來越擔憂。

談到當初從谷歌離職的原因時，辛頓稱希望自己離職後能夠“自由地傳播”自己相信的東西。去年 4 月，他曾與自己的上司 —— 首席科學家傑夫・迪恩（Jeff Dean）交談，自己提出了 AI 有可能帶來事關人類生存危機的看法。迪恩試圖挽留辛頓，並提議留在谷歌研究 AI 的安全對策，但最終被辛頓拒絕。辛頓表示，自己非常尊敬迪恩，“即使不會被明確限制，但若身爲谷歌的一員，講話時也不得不考慮到公司的利益。”

辛頓之所以認爲 AI 有可能威脅人類，是因爲若給 AI 設定目標，作爲解決對策，它可能會找出對人類不利的方法。

日本經濟新聞提到了 OpenAI 聯創伊爾亞・蘇茨克維（Ilya Sutskever）在去年曾試圖解僱該公司首席執行官 (CEO) 山姆・阿爾特曼（Sam Altman）的話題，辛頓稱伊爾亞非常擔心 AI 的危險性。“以前我們都認爲數字的智能不會像人類那麼優秀，理解語言和複雜的東西或將是很久之後的事情。伊爾亞率先改變了看法，但我並沒有馬上同意，現在我覺得他是對的。”

半個世紀以來，辛頓一直在培養 ChatGPT 等聊天機器人背後的核心技術。但是現在，他擔心 AI 會造成嚴重危害。