[發明專利]數據處理和模型運行方法、裝置和計算機設備

在審

• 申請號: 202010147450.9
• 申請日: 2020-03-05
• 公開（公告）號: CN111340237A
• 公開（公告）日: 2020-06-26
• 發明（設計）人: 卓達城
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 毛丹

本申請涉及一種數據處理和模型運行方法、裝置、計算機設備，涉及機器學習技術，包括：獲取待運行模型和設備的候選計算處理單元；將待運行模型劃分為不同的子模型集合，各個子模型集合中的子模型存在從候選計算處理單元確定的綁定計算處理單元，支持運行對應的子模型中的各個算子；通過子模型對應的綁定計算處理單元運行各個子模型，確定各個子模型集合的運行效率信息；從子模型集合中確定目標子模型集合，建立待運行模型與所述目標子模型集合的第一關聯關系，第一關聯關系用于當待運行模型在設備運行時，將待運行模型分成目標子模型運行，通過目標綁定計算處理單元運行對應的目標子模型，提高模型運行效率。

技術領域

本申請涉及計算機技術領域，特別是涉及數據處理和模型運行方法、裝置、計算機設備和存儲介質。

背景技術

隨著科技的發展，機器學習被越來越廣泛的使用，通過機器學習訓練出的模型的應用場景非常廣泛，包括視頻，文章，廣告的推薦服務，圖片識別，相似圖片搜索，目標檢測，語義分析，翻譯等。

模型在運行時，往往將整個模型配置在一種適合的計算處理單元上運行，如在一個硬件上運行，計算處理單元的資源利用率低，模型運行效率不高。

發明內容

基于此，有必要針對上述模型的運行效率低的問題，提供一種數據處理和模型運行方法、裝置、計算機設備和存儲介質。

一種數據處理方法，所述方法包括：獲取待運行模型和設備的候選計算處理單元；將所述待運行模型劃分為不同的子模型集合，各個子模型集合由不同的子模型組成,各個子模型由待運行模型中的不同的算子組成，各個子模型存在從所述候選計算處理單元確定的綁定計算處理單元，所述綁定計算處理單元支持運行對應的子模型中的各個算子；通過子模型對應的綁定計算處理單元運行各個子模型，確定各個子模型集合的運行效率信息；根據所述運行效率信息從所述子模型集合中確定目標子模型集合，所述目標子模型集合中的目標子模型存在對應的目標綁定計算處理單元；建立所述待運行模型與所述目標子模型集合的第一關聯關系，所述第一關聯關系用于當所述待運行模型在所述設備運行時，將所述待運行模型分成所述目標子模型運行，通過所述目標綁定計算處理單元運行對應的目標子模型。

一種模型運行方法，所述方法包括：獲取待運行模型和關聯關系，所述關聯關系是待運行模型與目標子模型集合的對應關系，所述目標子模型集合是將所述待運行模型劃分為不同的子模型集合，根據各個子模型集合的運行效率信息確定的，各個子模型集合中的子模型存在從設備的候選計算處理單元確定的綁定計算處理單元，所述綁定計算處理單元支持運行對應子模型中的各個算子，其中各個子模型集合由不同的子模型組成,各個子模型由待運行模型中的不同的算子組成；根據所述關聯關系確定所述待運行模型對應的目標子模型集合；將所述待運行模型分成所述目標子模型集合中的目標子模型運行，通過目標子模型對應的目標綁定計算處理單元運行對應的目標子模型；根據各個目標子模型在對應的目標綁定計算處理單元的運行結果得到所述待運行模型的運行結果。

一種數據處理裝置，所述裝置包括：獲取模塊，用于獲取待運行模型和設備的候選計算處理單元；劃分模塊，用于將所述待運行模型劃分為不同的子模型集合，各個子模型存在從所述候選計算處理單元確定的綁定計算處理單元，所述綁定計算處理單元支持運行對應的子模型中的各個算子，各個子模型集合由不同的子模型組成,各個子模型由待運行模型中的不同的算子組成；目標子模型集合確定模塊，用于通過子模型對應的綁定計算處理單元運行各個子模型，確定各個子模型集合的運行效率信息，根據所述運行效率信息從所述子模型集合中確定目標子模型集合，所述目標子模型集合中的目標子模型存在對應的目標綁定計算處理單元；關聯模塊，用于建立所述待運行模型與所述目標子模型集合的第一關聯關系，所述第一關聯關系用于當所述待運行模型在所述設備運行時，將所述待運行模型分成所述目標子模型運行，通過所述目標綁定計算處理單元運行對應的目標子模型。