[發明專利]模型運行方法、裝置、終端及存儲介質

有效

• 申請號: 201910762846.1
• 申請日: 2019-08-19
• 公開（公告）號: CN110458294B
• 公開（公告）日: 2022-02-25
• 發明（設計）人: 蔣燚
• 申請（專利權）人: OPPO廣東移動通信有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F21/32;G06V40/16
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 牟慧仙

1.一種模型運行方法，其特征在于，所述方法包括：

獲取待運行的機器學習模型，所述機器學習模型包括至少一個算子；

確定所述機器學習模型中的n個第一算子，所述第一算子是指第一處理器不支持運行的算子，所述n為正整數；

按照所述機器學習模型包括的各個算子的運行順序，確定目標第一算子，所述目標第一算子是指運行順序在所述n個第一算子中為第一個的第一算子；

將所述目標第一算子作為切割點，將所述目標第一算子以及運行順序在所述目標第一算子之后的算子從所述機器學習模型中去除，得到調整后的機器學習模型，所述調整后的機器學習模型包括所述第一處理器支持運行的算子；

在所述第一處理器上運行所述調整后的機器學習模型。

2.根據權利要求1所述的方法，其特征在于，所述確定所述機器學習模型中的n個第一算子之后，還包括：

從處理器集合中選擇第二處理器，所述處理器集合中包括至少一個處理器，所述第二處理器是支持運行所述第一算子的處理器；

在所述第二處理器上運行所述第一算子。

3.根據權利要求2所述的方法，其特征在于，所述從處理器集合中選擇第二處理器，包括：

選取所述處理器集合中支持運行所述第一算子，且運算速度最快的處理器作為所述第二處理器。

4.根據權利要求2所述的方法，其特征在于，所述從處理器集合中選擇第二處理器，包括：

獲取所述處理器集合包括的至少一個處理器各自的狀態信息，所述狀態信息用于表征處理器的運行狀態；

根據所述處理器集合包括的至少一個處理器各自的狀態信息，確定所述第二處理器。

5.根據權利要求1所述的方法，其特征在于，所述確定所述機器學習模型中的n個第一算子之后，還包括：

對于所述n個第一算子中的第i個第一算子，獲取所述第i個第一算子對應的數學模型，所述i為小于等于n的正整數；

對所述數學模型進行拆解，獲得至少一個拆解元素；

獲取所述至少一個拆解元素對應的至少一個第二算子，通過拼接所述至少一個第二算子實現所述第i個第一算子的計算功能，所述第二算子是指所述第一處理器支持運行的算子；

在所述第一處理器上運行所述至少一個第二算子。

6.一種模型運行裝置，其特征在于，所述裝置包括：

模型獲取模塊，用于獲取待運行的機器學習模型，所述機器學習模型包括至少一個算子；

算子確定模塊，用于確定所述機器學習模型中的n個第一算子，所述第一算子是指第一處理器不支持運行的算子，所述n為正整數；

模型調整模塊，用于按照所述機器學習模型包括的各個算子的運行順序，確定目標第一算子，所述目標第一算子是指運行順序在所述n個第一算子中為第一個的第一算子；將所述目標第一算子作為切割點，將所述目標第一算子以及運行順序在所述目標第一算子之后的算子從所述機器學習模型中去除，得到調整后的機器學習模型，所述調整后的機器學習模型包括所述第一處理器支持運行的算子；

模型運行模塊，用于在所述第一處理器上運行所述調整后的機器學習模型。

7.一種終端，其特征在于，所述終端包括處理器和存儲器，所述存儲器存儲有計算機程序，所述計算機程序由所述處理器加載并執行以實現如權利要求1至5任一項所述的方法。

8.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質中存儲有計算機程序，所述計算機程序由處理器加載并執行以實現如權利要求1至5任一項所述的方法。