CEVA推出邊緣設備新款AI推理處理器架構
CEVA,用於更高智慧和互連設備的訊號處理平臺和人工智慧處理器的全球領先授權許可廠商,在比利時布魯塞爾的AutoSens展會中發表了用於邊緣的深度神經網路推理的第二代AI處理器架構NeuPro-S。配合NeuPro-S的發表,CEVA今天還推出了CDNN-Invite API,這是業界第一款深度神經網路編譯器技術,可在一個可最佳化運行時間韌體的統一的神經網路中,支援結合NeuPro-S核心與客製化神經網路引擎的異質協同處理。
NeuPro-S以及CDNN-Invite API是任何基於視覺且需要邊緣人工智慧處理的設備的理想選擇,包括自動駕駛車、智慧手機、監控攝影機、消費用攝影機以及在AR/VR耳機、機器人和工業應用中新興的使用案例。
爲最佳化處理神經網路,以便對邊緣設備中的視訊和影像中的對象進行分段、檢測和分類而設計的NeuPro-S,包括有系統感知增強功能,可顯著提高性能。這些包括了多級記憶體系統支援,可減少使用外部SDRAM的高成本傳輸;多重權重的(multiple weight)壓縮選項;異質的可擴展性,可在單一的統一架構中實現CEVA-XM6視覺DSP、NeuPro-S核心和客製化AI引擎的各種組合。平均而言,這使NeuPro-S在與CEVA的第一代AI處理器相比時,性能提高了50%,記憶體頻寬降低40%,功耗降低30%。
NeuPro-S系列包括NPS1000、NPS2000和NPS4000,預配置的處理器每一週期分別有1000、2000和4000個8位元MAC。NPS4000可提供每一核心最高的CNN性能,在1.5GHz時可達到12.5 TOPS(Tera Operations Per Second,每秒萬億次運算)且是可完全擴展的,最高可達100 TOPS。
針對日益多樣化的特定應用神經網路和處理器,CDNN-Invite API可以讓客戶設計的神經網路引擎無縫地整合到CEVA屢獲殊榮的深度神經網路(CDNN)框架中。然後,CDNN將全面最佳化和增強網路和層,以充分利用每個CEVA-XM6視覺DSP、NeuPro-S和客製化神經網路處理器的卓越性能。CDNN-Invite API已經獲得主要客戶的採用,他們與CEVA工程師密切合作,將其部署在商用產品中。
CEVA視覺業務部副總裁兼總經理Ilan Yona表示,在爲邊緣設備擴展深度神經網路處理器和最佳化技術方面,CEVA持續保持領先,爲業界樹立新的典範。邊緣設備中資料頻寬和功耗所帶來的挑戰越來越嚴峻,NeuPro-S架構解決了這些挑戰的根本原因。藉由CDNN-Invite API,我們爲不斷增長的神經網路創新者社羣降低進入障礙,使他們能夠從我們的CDNN編譯器技術所提供的廣泛支援和易用性中獲益,進一步擴展了我們在神經網路編譯器技術方面不容置疑的競爭優勢。
CEVA在整合處理、加速、軟體和工具方面所擁有的豐富經驗和整體策略,可爲深度學習提供一個兼具開放、節能和可編程的平臺。除了AI運行時間處理之外,NeuPro-S架構中的完全可編程CEVA-XM6視覺DSP還可以同時處理成像、計算機視覺和一般的DSP工作負載。這也使得客戶和演算法開發人員能夠利用CEVA廣泛的成像和視覺軟體和程式庫,包括用於3D映射的CEVA-SLAM軟體開發套件、用於計算機視覺開發的CEVA-CV和CEVA-VX軟體庫,以及最近收購的廣角成像軟體套件,包括消除彎曲技術(dewarp)、視訊拼接(video stitching)和圖像資料(Data-in-Picture)感測器融合技術。
NeuPro-S提供滿足安全要求的解決方案,包括品質保證標準IATF 16949和汽車標準(包括ISO 26262和A-Spice),進一步鞏固了CEVA在汽車使用案例中的成功地位。