光芯片,太強了
如果您希望可以時常見面,歡迎標星收藏哦~
來源:內容編譯自phys,謝謝。
當今最苛刻的機器學習應用所採用的深度神經網絡模型已經變得如此龐大和複雜,突破了傳統電子計算硬件的極限。
子硬件可以利用光進行機器學習計算,是一種速度更快、更節能的替代方案。但是,有些類型的神經網絡計算光子設備無法執行,需要使用片外電子設備或其他會影響速度和效率的技術。
經過十年的研究,麻省理工學院等機構的科學家開發出了一種新型光子芯片,可以克服這些障礙。他們展示了一種完全集成的光子處理器,可以在芯片上以光學方式執行深度神經網絡的所有關鍵計算。
該研究發表在《自然光子學》雜誌上。
該光學設備能夠在不到半納秒的時間內完成機器學習分類任務的關鍵計算,同時實現超過 92% 的準確率,其性能與傳統硬件相當。
該芯片由形成光學神經網絡的互連模塊組成,採用商業代工工藝製造,可實現該技術的擴展並將其集成到電子產品中。
從長遠來看,光子處理器可以實現更快、更節能的深度學習,適用於激光雷達、天文學和粒子物理學的科學研究或高速電信等計算要求高的應用。
“在很多情況下,重要的不僅僅是模型的表現如何,還有你能多快得到答案。現在我們有了一個端到端系統,可以在納秒的時間尺度上運行光學神經網絡,我們可以開始在更高的層次上思考應用程序和算法,”電子研究實驗室 (RLE) 量子光子學和人工智能組的客座科學家、NTT Research, Inc. 的博士後 Saumil Bandyopadhyay 說道,他是新芯片論文的主要作者。
與 Bandyopadhyay 一起參與撰寫論文的還有 Alexander Sludds 博士、資深作者、電氣工程與計算機科學系教授、量子光子學與人工智能組及 RLE 首席研究員 Dirk Englund 等人。
利用光進行機器學習
深度神經網絡由許多相互連接的節點層或神經元組成,這些節點層或神經元對輸入數據進行操作以產生輸出。深度神經網絡中的一個關鍵操作是使用線性代數進行矩陣乘法,這會在數據從一層傳遞到另一層時對其進行轉換。
但除了這些線性運算之外,深度神經網絡還執行非線性運算,幫助模型學習更復雜的模式。非線性運算(如激活函數)使深度神經網絡能夠解決複雜問題。
2017 年,Englund 團隊與 Marin Soljačić(塞西爾和艾達格林物理學教授)實驗室的研究人員合作,在單個光子芯片上展示了一種光學神經網絡,可以用光進行矩陣乘法。
但當時該設備無法在芯片上進行非線性運算,必須將光學數據轉換成電信號,再送到數字處理器進行非線性運算。
“光學中的非線性非常具有挑戰性,因爲光子之間並不容易相互作用。這使得觸發光學非線性非常耗電,因此構建一個可擴展的系統變得具有挑戰性,”Bandyopadhyay 解釋道。
他們通過設計一種稱爲非線性光學功能單元(NOFU)的設備克服了這一挑戰,該設備結合電子學和光學技術在芯片上實現非線性操作。
研究人員利用三層執行線性和非線性運算的設備,在光子芯片上構建了光學深度神經網絡。
全面集成的網絡
首先,他們的系統將深度神經網絡的參數編碼爲光。然後,2017 年論文中演示的可編程分束器陣列對這些輸入執行矩陣乘法。
隨後,數據傳送至可編程 NOFU,後者通過將少量光線吸入光電二極管(光電二極管將光信號轉換爲電流)來實現非線性功能。這一過程無需外部放大器,而且消耗的能量極少。
“我們始終處於光學領域,直到最後我們想要讀出答案。這使我們能夠實現超低延遲,”Bandyopadhyay 說道。
實現如此低的延遲使他們能夠有效地在芯片上訓練深度神經網絡,這一過程稱爲原位訓練,通常會消耗數字硬件中的大量能源。
他說:“這對於在域內處理光信號的系統(如導航或電信)尤其有用,而且對於想要實時學習的系統也很有用。”
該光子系統在訓練測試中實現了超過 96% 的準確率,在推理中實現了超過 92% 的準確率,這與傳統硬件相當。此外,該芯片在不到半納秒的時間內完成關鍵計算。
恩格倫說:“這項工作表明,計算(其本質是輸入到輸出的映射)可以編譯到線性和非線性物理的新架構上,從而實現從根本上不同的計算縮放定律與所需工作量。”
整個電路的製造採用了與生產 CMOS 計算機芯片相同的基礎設施和代工工藝。這使得芯片能夠大規模生產,採用經過驗證的技術,在製造過程中幾乎不會出現任何錯誤。
Bandyopadhyay 表示,擴大設備規模並將其與攝像頭或電信系統等現實世界的電子設備集成將是未來工作的重點。此外,研究人員希望探索能夠利用光學優勢的算法,以更快、更節能的方式訓練系統。
https://phys.org/news/2024-12-photonic-processor-enable-ultrafast-ai.html
半導體精品公衆號推薦
專注半導體領域更多原創內容
關注全球半導體產業動向與趨勢
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅爲了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯繫半導體行業觀察。
今天是《半導體行業觀察》爲您分享的第3967期內容,歡迎關注。
『半導體第一垂直媒體』
實時 專業 原創 深度
公衆號ID:icbank
喜歡我們的內容就點“在看”分享給小夥伴哦