澳媒：諾貝爾物理學獎聚焦人工智能重大突破

參考消息網11月6日報道澳大利亞“對話”網站10月8日刊登題爲《諾貝爾物理學獎聚焦人工智能革命的重大突破——製造會學習的機器》的文章，作者是美國密歇根大學統計學教授安布傑·蒂瓦里，內容編譯如下：

如果最新的人工智能生成視頻讓你驚掉下巴，防詐騙系統從犯罪分子手中挽救了你的銀行餘額，或者你的生活因爲可以一邊跑步一邊口述發短信而變得稍稍輕鬆，那麼你要感謝許多科學家、數學家和工程師。

但有兩個名字因對深度學習技術的基礎性貢獻脫穎而出，他們讓這些體驗成爲可能：普林斯頓大學物理學家約翰·霍普菲爾德和多倫多大學計算機科學家傑弗裡·欣頓。

這兩位研究人員因在人工神經網絡領域的開創性工作，於2024年10月8日獲得諾貝爾物理學獎。儘管人工神經網絡是以生物神經網絡爲模型的，但兩位研究人員的工作都借鑑了統計物理學，因此獲得了物理學獎。

神經元如何計算

人工神經網絡起源於對活體大腦生物神經元的研究。1943年，神經生理學家沃倫·麥卡洛克和邏輯學家沃爾特·皮茨提出了一個神經元工作方式的簡單模型。在麥卡洛克-皮茨模型中，一個神經元與其相鄰的神經元連接，並能從它們那裡接收信號。然後，它可以將這些信號組合起來，向其他神經元發送信號。

但有一個轉折：它可以有區別地衡量來自不同相鄰神經元的信號。試想，你要決定是否買一部新的暢銷手機。你和朋友們聊天，向他們尋求建議。一個簡單的策略是收集所有朋友的建議，並決定聽從大多數人的意見。比如，你問了三個朋友：愛麗絲、鮑勃和查理，他們分別給出了贊同、贊同和反對的意見。這導致你決定買這部手機，因爲有兩個贊同和一個反對。

不過，你可能更信任一些朋友，因爲他們對科技產品有深入的瞭解。於是你可能會決定更看重他們的建議。例如，如果查理非常懂行，你可能會把他的反對意見放大到三倍，現在你決定不買這部手機——因爲有兩個贊同和三個反對。如果你不幸有一個你對他在科技產品上的意見完全不信任的朋友，你甚至有可能把他們的意見反過來聽。於是，他們的贊同就成了反對，他們的反對就成了贊同。

一旦你對新手機是否是個好選擇做出了自己的決定，其他朋友就可以向你尋求建議了。同樣，在人工和生物神經網絡中，神經元可以聚合來自鄰居的信號，並向其他神經元發出信號。這種能力導致了一個關鍵的區別：這個網絡中是否存在循環？例如，如果我今天問愛麗絲、鮑勃和查理，明天愛麗絲問我的建議，這就有了一個循環：從愛麗絲到我，又從我回到愛麗絲。

如果神經元之間的連接沒有循環，那麼計算機科學家就將其稱爲前饋神經網絡。前饋神經網絡中的神經元可以層層排列。第一層由輸入的信息構成。第二層從第一層接收信號。以此類推，最後一層代表着網絡的輸出信息。

然而，如果這個網絡中存在循環，計算機科學家就稱之爲循環神經網絡，那麼神經元的排列就會比在前饋神經網絡中更爲複雜。

霍普菲爾德網絡

人工神經網絡的最初靈感來自生物學，但很快其他領域開始影響它們的發展。其中包括邏輯學、數學和物理學。物理學家約翰·霍普菲爾德利用物理學中的一些思想來研究一種特定類型的循環神經網絡，現在被稱爲霍普菲爾德網絡。他特別研究了它們的動態：隨着時間推移，這個網絡會發生什麼變化？

當信息通過社交網絡傳播時，這種動態也很重要。每個人都知道表情包在網上傳播，社交網絡上會形成迴音室。這些都是集體現象，最終產生於網絡中人與人之間簡單的信息交換。

霍普菲爾德是利用物理學模型——尤其是用來研究磁性的模型——來了解循環神經網絡動態的先驅。他還表明，它們的動態可以爲此類神經網絡提供一種記憶形式。

玻爾茲曼機模型

20世紀80年代期間，傑弗裡·欣頓、計算神經生物學家特倫斯·謝伊諾夫斯基等人擴展霍普菲爾德的想法，創建了以19世紀物理學家路德維希·玻爾茲曼命名的一類新模型。顧名思義，這些模型的設計源於玻爾茲曼開創的統計物理學。與能夠儲存模式和糾正模式錯誤——就像拼寫檢查程序所做的那樣——的霍普菲爾德網絡不同，玻爾茲曼機可以創造新的模式，從而播下現代生成式人工智能革命的種子。

如果你想讓人工神經網絡完成有趣的任務，你就不得不爲人工神經元之間的連接選擇合適的權重。反向傳播是一種關鍵算法，它讓根據訓練數據集的網絡性能來選擇權重成爲可能。反向傳播最早是在控制理論領域發展的，1974年保羅·沃博斯將其應用於神經網絡。20世紀80年代，欣頓及其同事證明，反向傳播可以幫助神經網絡的中間層學習輸入信息的重要特徵。例如，學習檢測圖像中眼睛的神經元學會了對面部檢測有用的重要特徵。

然而，訓練多層人工神經網絡仍然具有挑戰性。在本世紀初，欣頓及其同事巧妙地利用玻爾茲曼機訓練多層網絡，他們首先逐層預訓練網絡，然後在預訓練的網絡之上使用另一種微調算法來進一步調整權重。多層網絡被重新命名爲深度網絡，深度學習革命開始了。

AI回報物理學

諾貝爾物理學獎展示了來自物理學的思想如何促進了深度學習的興起。現在，深度學習已經開始回報物理學，它可以準確、快速地模擬從分子和材料一直到整個地球氣候的各種系統。

通過將諾貝爾物理學獎授予霍普菲爾德和欣頓，頒獎委員會表達了對人類利用這些進步來促進人類福祉和建立一個可持續發展世界的潛力的希望。（編譯/盧荻）