科大訊飛申請大模型解碼系統、方法、相關設備及計算機程序產品專利,提升終端設備本地模型的推理效果
金融界 2024 年 8 月 14 日消息,天眼查知識產權信息顯示,科大訊飛股份有限公司申請一項名爲“大模型解碼系統、方法、相關設備及計算機程序產品“,公開號 CN202410837624.2,申請日期爲 2024 年 6 月。
專利摘要顯示,本申請公開了一種大模型解碼系統、方法、相關設備及計算機程序產品,系統包括終端設備和雲端服務器,在終端設備佈置小規模的近似模型進行解碼,然後在雲端服務器採用規模更大的目標模型,對近似模型的當前解碼結果進行確認或糾正,在終端硬件資源受限的情況下,能夠提升終端設備本地模型的推理效果。同時,無需雲端服務器逐個 token 進行解碼,能夠降低雲端服務器的服務負載。
本文源自:金融界
作者:情報員
相關資訊
- ▣ 抖音公司申請模型調用方法、裝置、介質、設備及計算機程序產品專利,有效簡化模型調用的流程
- ▣ 先臨三維申請三維掃描設備、控制方法、計算機程序產品及存儲介質專利,提高語音識別模型的準確性
- ▣ 廣聯達申請造型建模方法、裝置、計算機設備和可讀存儲介質專利,能夠提升複雜造型的工程量計算準確性
- ▣ 騰訊公司申請模型訓練專利,提升模型訓練效果
- ▣ 科大訊飛申請大語言模型人設私有化方法及相關裝置專利,能夠滿足企業的定製化需求
- ▣ 貝殼找房申請服務的引導方法、電子設備、存儲介質及計算機程序產品專利,形成應答數據
- ▣ 中聯重科申請物料處理方法及系統、計算設備與計算機可讀存儲介質專利,提高物料質量和物流作業效率,降低成本
- ▣ 工商銀行申請自動運維方法、系統、裝置、計算機設備及存儲介質專利,提高排查故障的效率
- ▣ 極米科技申請“一種光源系統、波長轉換元件的製備方法及投影設備”專利,提升投影設備的亮度和色域
- ▣ 華爲雲申請一種代碼管理方法及相關係統專利,提高代碼管理效率
- ▣ 大華股份申請大語言模型推理增強方法專利,能夠有效增強大語言模型的推理能力
- ▣ 騰訊公司申請界面生成方法、裝置、計算機設備、存儲介質專利,提高業務處理的效率
- ▣ 中國鐵塔申請算法模型的授權方法及裝置專利,實現算法模型的安全授權
- ▣ 貝殼找房申請應用程序模型數據加載方法及裝置專利,提高了模型數據的加載速度及應用程序的啓動速度
- ▣ 小米申請通信方法、終端、網絡設備、系統及存儲介質專利,降低信令開銷
- ▣ 華爲公司申請一種對賬方法、系統及相關設備專利,提高對賬效率,降低人力成本,提高用戶的使用體驗
- ▣ 西門子申請控制三維模型動作相關專利,提供網頁端控制三維模型動作的方法
- ▣ 建設銀行獲得發明專利授權:“封禁方法、裝置、電子設備、介質和計算機程序產品”
- ▣ 中國銀行申請共享文件分佈式存儲方法及相關設備專利,提升文件共享系統的運行穩定性
- ▣ 普強(北京)申請“構建 AI 大模型智能體的方法及裝置”專利,提升了 AI 大模型智能體的準確率
- ▣ 華能水電申請電力監控系統網絡安全設備統一管理專利,大幅提高電力監控系統網絡安全設備管理的效率
- ▣ 大華股份申請圖像成像方法、系統、電子設備和計算機可讀存儲介質專利,本申請能夠拓展成像設備的景深且保障圖像的成像質量
- ▣ 華自科技申請一種算法模型的封裝及調度方法等專利,節省開發成本
- ▣ 螞蟻鏈申請隱私計算算法相關專利,評估隱私計算算法在設備上的運行情況
- ▣ 廣立微:已申請“故障檢測方法、裝置、計算機設備以及存儲介質”的專利
- ▣ 工商銀行申請機器人避障方法、裝置、電子設備、存儲介質及程序產品專利,能夠提高機器人的避障精度
- ▣ 工商銀行申請訪問方法和相關設備專利,提高用戶財產的安全性
- ▣ 美智光電申請燈具設備控制專利,提升燈具設備的控制效率
- ▣ **標題**:阿維塔申請“測試方法、裝置、設備及計算機可讀存儲介質”專利,能夠提高測試效率。