磁性隨機存取存儲器架構或助力邊緣物聯網

過去十年間，有兩個寬泛的技術領域一直在不斷加快發展的步伐：人工智能（AI）和物聯網（IoT）。

憑藉在數據分析、圖像識別以及自然語言處理等任務中的出色表現，人工智能系統在學術和工業環境中已成爲不可否認的強大工具。

同時，電子設備的小型化以及相關技術的進步，大幅縮小了能夠連接互聯網的功能設備的尺寸。工程師和研究人員都預見到了一個物聯網設備無所不在的世界，而這構成了高度互聯世界的基礎。

然而，將人工智能能力引入物聯網邊緣設備帶來了重大挑戰。人工神經網絡（ANNs）——作爲最重要的人工智能技術之一——需要大量的計算資源，而物聯網邊緣設備本身很小，功率、處理速度和電路空間有限。開發能夠在邊緣設備上高效學習、部署和運行的人工神經網絡是一個主要障礙。

對此，來自東京理科大學的高原隆之教授和藤原裕也正在努力尋找應對這一挑戰的巧妙解決方案。在他們於 2024 年 10 月 8 日在《IEEE 接入》上發表的最新研究中，他們爲一種稱爲二值化神經網絡（BNN）的特殊類型的人工神經網絡引入了一種新穎的訓練算法，以及在適用於物聯網設備的前沿的內存計算（CiM）架構中對該算法的創新實現。

“BNN 是僅使用 -1 和 +1 的權重和激活值的人工神經網絡，它們可以通過將信息的最小單位減少到僅一位來最小化網絡所需的計算資源，”高原解釋道。

“然而，儘管在推理期間權重和激活值可以存儲在單個位中，但在學習期間權重和梯度是實數，並且在學習期間執行的大多數計算也是實數計算。因此，在物聯網邊緣側一直難以給 BNN 提供學習能力。”

爲了克服這一問題，研究人員開發了一種名爲三值梯度 BNN（TGBNN）的新訓練算法，有三個關鍵的創新之處。首先，他們在訓練期間採用了三值梯度，同時保持權重和激活值爲二進制。其次，他們增強了直通估計器（STE），改進了梯度反向傳播的控制，從而確保高效學習。第三，他們採用了一種概率方法，通過利用 MRAM 單元的行爲來更新參數。

隨後，研究團隊在 CiM 架構中實現了這種新穎的 TGBNN 算法——這是一種現代設計範例，在其中計算直接在內存中進行，而非在專用處理器中進行，以此節省電路空間和功率。爲了實現這一點，他們開發了一個全新的 XNOR 邏輯門作爲磁性隨機存取存儲器（MRAM）陣列的構建塊。這個門通過磁性隧道結把信息存儲在其磁化狀態中。

爲了改變單個 MRAM 單元的存儲值，研究人員利用了兩種不同的機制。第一種是自旋軌道轉矩——當電子自旋電流注入材料時產生的力。第二種是電壓控制的磁各向異性，這是指對材料中不同磁態之間存在的能壘的操縱。由於這些方法，求和積計算電路的產品尺寸減小至傳統單元的一半。

該團隊藉助 MNIST 手寫數據集，對他們所提出的基於 MRAM 的 BNN 用 CiM 系統的性能進行了測試，此數據集涵蓋了人工神經網絡需要識別的單個手寫數字的圖像。

“結果顯示，我們的三值梯度 BNN 藉助基於糾錯輸出碼（ECOC）的學習，達成了超過 88％的準確率，同時和具有相同結構的常規 BNN 的準確率相匹配，並且在訓練過程中實現了更快的收斂。”川原說道。

我們堅信我們的設計會讓邊緣設備上的 BNN 更具效率，保持其學習和適應的能力。

這一突破或許能爲能夠更大程度地利用人工智能的強大物聯網設備鋪平道路。

這對衆多快速發展的領域有着顯著影響。比如，可穿戴健康監測設備能夠變得更高效、更小、更可靠，無需一直連接雲就能運行。同樣地，智能房屋將可以執行更復雜的任務，並且以更靈敏的方式運轉。