記憶體內運算技術的先驅Rain AI宣佈 晶心科成為其RISC-V合作夥伴

晶心科董事長林志明。圖/聯合報系資料照片

RISC-V處理器核心領導供應商暨RISC-V國際協會創始首席會員晶心科（6533），今日宣佈向記憶體內計算（CIM）技術的先驅者Rain AI授權使用晶心RISC-V向量處理器AX45MPV。Rain AI設計了新穎的加速器解決方案，且雙方正在合作並加速推進Rain AI產品開發。

隨着全球經濟大量採用生成式人工智慧爲消費者及企業提供前所未有的利益，無論是應用在雲端、邊緣，或特別是在最小的感測器中，能量消耗是一大挑戰。記憶體內計算（CIM）是目前降低能耗最具潛力的解決方案，可將能耗降低多達50倍。透過直接在記憶體單元中執行計算，CIM可以顯著減少機器學習中常見矩陣運算所需的能量。

然而，僅憑CIM本身並無法完全解決大量且不斷增長的機器學習運算需求。RISC-V CPU爲基於CIM基礎的NPU提供高效編程且未來看好的理想處理器選擇，且RISC-V架構允許用戶能夠添加客制指令來呼叫CIM計算模塊，從而減輕軟體開發的負擔。晶心科爲此特別提供COPILOT編譯器來自動化客製化指令的過程。

晶心科董事長暨執行長林志明表示，作爲世界首家RISC-V向量處理器供應商，我們認爲CIM是實現生成式AI應用的必要技術，也因此專注於支持CIM客戶。Rain AI採用數位CIM技術設計了最節能的矩陣乘法單元，期待Rain AI 在未來發布突破性的解決方案。

Rain AI執行長William Passo表示，將最先進的模型在任何外型尺寸的裝置中運行是人工智慧的未來，與晶心的合作讓雙方更向此邁進一大步。

Rain AI進一步與晶心客制運算事業部（CCBU）合作，透過現場及遠距諮詢服務，協助加速整合晶心AX45MPV和ACE/COPILOT客制指令。晶心客制運算事業部（CCBU）是一支由專家組成的小團隊，負責爲一些具有領先技術的授權客戶進行復雜的客制及整合工作。

兩家公司可共同分享AX45MPV和晶心獨特的RISC-V客制指令技術ACE/COPILOT的獨到之處。ACE/COPILOT在補充Rain AI開創性的CIM硬體、編譯器和軟體中發揮至關重要的作用，提供可擴展的機器學習（ML）解決方案，適用於多種部署形式。Rain AI將在2025年初發表其加速器解決方案。