復旦大學沈健團隊:構建全新物理架構,尋找人工智能的另一條路
"想象一下,如果有一種物理架構與人腦的工作原理是相同的,那麼我們是不是可以通過這種物理架構或者說用某種材料製備的器件來實現人腦的某些功能,最終通過不同的器件‘拼接’成一個類腦計算機呢?"這也是復旦大學微納電子器件與量子計算機研究院院長、物理學系沈健正在進行的探索,而這類與傳統計算機架構完全不同的類腦計算機,最大的特點就是低功耗、高效率,而這兩者正是目前智能計算要進一步發展面臨的最大瓶頸。
沈健團隊提出基於物理過程的自主學習機制,探索了基於不同物理體系構成的物理神經網絡及其無需外界干預便可進行"自我訓練"的能力。目前,其團隊在"面向低能耗智能計算的材料和器件"方面的研究已開始有成果陸續發佈,其中"智能"磁性薄膜材料製備的器件就具備自主學習能力。通過將圖像轉化成電信號輸入到該器件中,磁性材料中的磁疇在電信號刺激下自適應演化,於是該器件無需外部算法干預就自主實現了權重的計算和調整。通過將這一器件構築成Hopfield網絡,可以進行聯想記憶任務,比如,給定部分或噪聲圖像時網絡會自動恢復完整的原始圖形模式,相關成果已物理學界的頂尖雜誌接收。
物理學與人工智能的相輔相成
物理學與人工智能之間存在着深刻而密切的聯繫。從歷史發展來看,物理學的基礎理論爲機器學習技術的發展做出了重要貢獻。今年的諾貝爾物理學獎就是最典型的物理學推動人工智能發展的例證,是Science For AI的最佳例證。
自20世紀40年代第一臺計算機誕生以來,信息技術的發展呈現明顯的不連續、階越性特徵。這些突破性進展往往由關鍵物理材料和器件的創新所驅動,如硅基半導體材料實現了高密度高速信息處理,巨磁阻材料推動了海量信息存儲並加速了大數據時代的到來。
另一方面,物理學也在人工智能技術的推動下快速進展,比如希格斯粒子的發現、引力波測量噪聲的減少、系外行星的尋找、分子和材料性質的計算、蛋白質結構的預測以及高效太陽能電池的開發等都離不開人工智能。物理學與人工智能之間的協同發展,不僅體現了科學領域的交叉融合之美,更爲未來科技創新開闢了廣闊空間。
但是,當下的智能計算主要面向語音、文字、圖像、視頻等具有強關聯性的模擬信息。傳統的馮諾依曼架構的計算機在處理這類信息是效率低下,因爲,現有計算機的硬件架構本身就不是爲了智能計算而設計的,所以我們就不得不在軟件和算法上不斷地去突破。而這一問題在現代大型神經網絡處理數百甚至上千億權重時表現得尤爲突出,導致對算力和能源的需求急劇攀升。巨量的能耗和算力,成爲人工智能進一步發展的一個瓶頸問題。
從物理學角度突破人工智能進一步發展的瓶頸
沈健團隊正在尋求的正是從基礎物理研究的角度突破人工智能發展的瓶頸。大模型誕生後,一直有觀點認爲,人類正處於人工智能突破的前夜,但實際上能耗和算力已經成爲人工智能技術進一步發展的瓶頸問題。
沈健團隊成員青年研究員餘偉超說,儘管目前的瓶頸多來自於算力,但從長遠來看,能耗將成爲更爲根本的限制。儘管現有的人工智能實現方式在計算資源利用和架構設計上確實存在優化空間,但不同的神經網絡架構和硬件加速技術(如專用AI芯片、神經形態計算)正在不斷探索更高效的計算範式,以提高人工智能系統的能量效率和計算性能。
物理體系的特性爲人工神經網絡提供了重要的靈感,尤其是若能在物理體系中直接實現人工神經網絡,即物理神經網絡,必將顯著提升人工智能的能力與效率。因此,利用物理體系構建人工智能有可能成爲實現可持續強人工智能的重要途徑。
目前國際上的研究主要集中於物理神經網絡在推斷任務中的應用,而網絡的訓練部分仍需依賴外部算法或計算實現,這與人腦的自我學習能力存在明顯差異。基於物理體系的神經網絡理論上可以通過內在的物理過程,實現無需外部干預的自主學習。
"人腦的可塑性是自主學習能力的重要基礎。這種存算一體的的計算機架構與傳統的馮諾依曼計算機架構完全不同。"沈健說,這就需要從更基礎的層面設計物理架構,尤其是通過新材料和新器件的特性,如記憶性、相干性、非線性、漲落性、可塑性等,來構築高能效的計算架構與範式。
從2018年開始,沈健團隊就開始思考,是否有一些硬件或者是否有一些物理體系,天生就能處理人工智能的任務,通過這樣的物理體系大幅度提升處理數據的密度。"確實有一些材料被稱爲‘smart material’,也就是智能材料,它們在外界‘刺激’下,具有自組織自適應的自我演化能力,同時自我演化的過程往往是納秒級的。通過這樣的材料,我們可以把這些硬件架構與創新的計算範式結合,從而找到一條智能計算的發展新路。"沈健告訴記者。目前團隊已經發現了某些磁性薄膜體系具備類似的能力,不過他也坦承,這還僅僅是開始。
從關注成果本身到關注從0到1的實現
雖然這些成果還僅僅是起步,沈健說,S4AI(Science for AI)的發展也改變了他們團隊的研究範式,過去像他這樣的凝聚態物理學家更關注材料的物理性質,至於這個物理性質實現了會給現實帶來改變其實並不真正關注,但如今,通過發現新的物理體系改變智能計算的範式,讓他們"不得不"更開始渴望走通從0到1甚至到10的路。
目前,沈健團隊正和復旦大學、清華大學、南京大學等全國頂尖高校的材料科學、集成電路領域的學者合作,推動低功耗智能計算器件的發展。據介紹,他們未來的研究方向包括探索新型物理系統,如光子學、自旋電子學、超導約瑟夫森結等平臺,在多種材料體系中實現高效的網絡架構;開發物理自學習能力,通過研究增量赫布學習、平衡傳播等策略實現高效的物理自主學習;同時致力於新型量子材料的理論和實驗研究,探索具備量子特性的材料以實現算力轉化;此外,還將物理自主學習概念擴展到其他網絡結構,並結合前端設備開展多模態傳感器計算的應用研究。
沈健談到,展望未來,也許我們的人工智能工具未必是一個"全能型選手",也許是某些方面的"特長生","總之,未來的人工智能工具的形態還很難預料,但是當我們通過全新的物理架構發展出諸多‘特長生’之後,也許最終也會實現‘全能型選手’的‘培養’,找到人工智能發展的另一種新的發展範式。"沈健說。
作者:
文:姜澎 圖:受訪者供圖 編輯:顧軍 責任編輯:樊麗萍
轉載此文請註明出處。