英特爾透過Loihi 2及新款Lava軟體框架 推神經型態運算

英特爾神經型態運算實驗室總監Mike Davies表示，Loihi 2和Lava凝聚數年來使用Loihi合作研究中的許多見解。我們的第二代晶片顯著地提升神經型態處理的速度、可程式化性以及容量，擴大在功耗和延遲均受限的智慧運算應用當中的使用範圍。我們正在將Lava開源，藉此滿足該領域對於軟體融合、基準測試和跨平臺協作等需求，並加速我們商業化可行性之進展。

神經型態運算汲取神經科學的見解，打造功能更像生物大腦的晶片，期望在廣泛的邊緣應用：從視覺、語音和手勢辨識，再到搜尋檢索、機器人學和受限最適化（constrained optimization）的問題上，於能源效率、運算速度和學習效率方面，提供數個量級的改善。

目前爲止，英特爾及其合作伙伴所展示的應用包含機器人手臂、神經型態皮膚和嗅覺感知。

Loihi 2這款研究晶片結合第1代研究晶片3年的使用經驗，並汲取英特爾製程技術和異步設計方法的進展。

Loihi 2的進步讓架構支援新類別的神經啓發演算法和應用程式，並藉由每個晶片高達1百萬個的神經元件，同時提供最高達10倍快的運算速度、最高達15倍多的資源密度。受惠於與英特爾技術開發部門的密切合作，Loihi 2已透過Intel 4（4奈米）製程試產版本製造，更突顯Intel 4製程的穩健與進展。Intel 4所使用的極紫外光（EUV）微影技術，相較過往製程技術簡化了佈線設計規則。這讓快速開發Loihi 2成爲可能。

Lava軟體框架解決神經型態研究社羣對於通用軟體框架的需求。作爲1個開放、模組化和可延伸的框架，Lava將讓研究人員和應用程式開發者，在一套通用的工具、方法和函式庫之上，建立並融合彼此的進展。Lava可在跨傳統和神經型態處理器的異質架構無縫運作，能夠跨平臺執行並支援多種人工智慧、神經型態和機器人框架的交互運作性。開發者無需使用專門的神經型態硬體，即可開始打造神經型態應用程式，並可爲Lava程式碼庫作出貢獻，包含將其移植到其它平臺上運作。

洛色拉莫士國家實驗室助理研究員Gerd J. Kunde表示，洛色拉莫士國家實驗室的研究人員一直在使用Loihi神經型態平臺，研究量子和神經型態運算之間的權衡得失，以及在晶片上實作學習過程。這項研究顯示爲解決困難的最佳化問題，脈衝式類神經網路（spiking neural network）和量子退火（quantum annealing）方法之間，一些令人爲之振奮的等價關係。我們還證明了訓練類神經網路的基本組件，原本認爲不可能在神經型態架構實作的反向傳播演算法，可以在Loihi上有效率地實現。我們團隊很高興能夠使用第2代Loihi 2晶片繼續這項研究。

Loihi 2和Lava爲研究人員開發和特徵化（characterize）新的神經啓發應用程式提供工具，用於即時處理、解決問題、適應和學習。亮點包括更快速、更通用的最佳化，Loihi 2具備更好的可程式化性，能夠支援更廣泛的困難最佳化（difficult optimization）問題，包含從邊緣到資料中心繫統的即時最佳化、規劃和決策。

提供持續和關聯學習的新方法，Loihi 2改善進階學習方法的支援性，包含反向傳播的各種變體、深度學習的主力演算法。這擴展了適應和資料高效率學習（data efficient learning）演算法的範圍，可透過線上設定運作中的低功耗外型規格所支援。

支援由深度學習訓練的新穎類神經網路。Loihi 2內部完全可程式化的神經元模型和廣義脈衝訊息傳遞（generalized spike messaging），爲使用深度學習所訓練的各種新款類神經網路敞開大門。與原本的Loihi運作標準深度網路相比，先期評估表明Loihi 2每次推理的操作次數減少超過60倍，且不會降低準確性。

與現實世界的機器人系統、傳統處理器和新穎感測器的無縫整合。Loihi 2透過整合更快、更靈活和標準的輸入/輸出介面，解決Loihi的實用限制。Loihi 2將支援乙太網路介面、更廣泛地無縫整合以事件爲基礎的視覺感測器，以及Loihi 2晶片更大的網狀網路。

英特爾神經型態研究社羣今年加入包含Ford、喬治亞理工學院、西南研究院（SwRI）和Teledyne-FLIR等數位新成員，英特爾神經型態研究社羣（INRC）已成長至將近150位成員。新合作伙伴加入一個由學術界、政府和產業夥伴所組成的強大社羣，與英特爾合作驅動真實世界神經型態運算的商業用途發展。

埃森哲實驗室研究科學家主任暨常務董事Edy Liongosari表示，新的Loihi 2晶片和Lava API所帶來的進步，是神經型態運算向前跨出的重要一步。下一代神經型態架構對於埃森哲實驗室在智慧邊緣運算，受大腦啓發的電腦視覺演算法研究十分重要，能夠替未來擴展實境耳機或智慧行動機器人提供動力。新晶片提供的功能將使得超維（hyper-dimensional）運算更有效率，並開啓更先進的晶載學習（on-chip learning），Lava API則提供開發者1個更簡單、更精簡的介面，來建立神經型態系統。

將神經型態運算從實驗室研究進展至商業上可行的技術，是一項需要三管齊下的努力。它需要根據演算法和應用研究的成果，不斷地對神經型態硬體迭代改進；開發通用跨平臺軟體框架，以便讓開發者能夠針對從不同團體來的最佳演算法構想，進行基準測試、整合和改善：以及橫跨產業、學術界和政府的深度合作，建立豐富、有成效的神經型態生態系，以便探索可提供短期商業價值的商業化使用案例。今日英特爾所宣佈的事項涵蓋這些全部領域，把新工具交付至不斷擴大的神經型態研究人員生態系手中，讓他們能夠從基礎開始重新思考運算，提供智慧資訊處理方面的突破。

英特爾目前藉由神經型態研究雲端，爲INRC成員提供2款以Loihi 2爲基礎的神經型態系統，包括Oheo Gulch是1款用於先期評估的單晶片系統。Kapoho Point是1款即將推出的8晶片系統。Lava軟體框架可從GitHub免費下載。Loihi 2和Lava的簡報和教學，將在10月舉行的Intel Innovation活動中推出。