歡太科技申請搜索相關專利，提高待訓練模型訓練效率

金融界2024年10月31日消息，國家知識產權局信息顯示，深圳市歡太科技有限公司申請一項名爲“搜索方法、搜索裝置、計算機設備及存儲介質”的專利，公開號CN 118838917 A，申請日期爲2023年4月。

專利摘要顯示，本申請公開一種搜索方法、搜索裝置、計算機設備和非易失性計算機可讀存儲介質。搜索方法包括根據待訓練模型運行時的真實參數量和激活值，確定待訓練模型的總顯存佔用量；根據各個並行組合參數和總顯存佔用量，確定各個並行組合參數對應的單卡顯存佔用量，多個並行組合參數由預設的多個並行參數組合而成；在多個並行組合參數中，篩選出單卡顯存佔用量小於當前計算機設備的單卡存儲上限的多個目標並行組合參數。如此，在多個並行組合參數中篩選出符合要求的並行組合參數，能夠節省後續進行最優批量大小搜索，以獲取最優訓練配置所需的時間，從而提高待訓練模型訓練的效率。

本文源自：金融界

作者：情報員