北京有竹居網絡技術申請利用子圖執行引擎進行模型選擇的專利,能夠基於模型選擇策略確定執行待推理任務的模型

金融界2024年11月14日消息,國家知識產權局信息顯示,北京有竹居網絡技術有限公司申請一項名爲“一種利用子圖執行引擎進行模型選擇的方法及裝置”的專利,公開號CN 118940858 A,申請日期爲2024年7月。

專利摘要顯示,本申請公開了一種利用子圖執行引擎進行模型選擇的方法,包括:獲取待推理任務對應的模型選擇策略,該模型選擇策略用於選擇執行待推理任務的模型,模型選擇策略包括至少一個字段和至少一個字段對應的判斷條件。根據預先保存於子圖執行引擎中的服務之間的依賴關係,確定獲得至少一個字段所需執行的目標服務。執行目標服務以得到至少一個字段的值。根據至少一個字段的值和模型選擇策略,確定執行待推理任務的目標模型目標模型爲大模型或者小模型。由此可見,本方案能夠基於模型選擇策略,來確定究竟是採用大模型還是小模型來執行待推理任務,本方案對小模型的輸出格式無嚴格要求,因此,本方案可以爲各種場景對應的待推理任務選擇對應的模型。

本文源自:金融界

作者:情報員