[發明專利]數據協作處理方法、系統、裝置、設備及存儲介質

在審

• 申請號: 202210386028.8
• 申請日: 2022-04-13
• 公開（公告）號: CN114860426A
• 公開（公告）日: 2022-08-05
• 發明（設計）人: 趙昆
• 申請（專利權）人: 西安廣和通無線通信有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/04;G06N3/08
• 代理公司: 深圳智匯遠見知識產權代理有限公司 44481
• 代理人: 黃巍

本申請涉及一種數據協作處理方法、系統、裝置、設備及存儲介質；其中，所述方法包括：獲取待處理的數據以及獲取待拆分的目標深度神經網絡模型；獲取所述終端設備的當前內存運行情況；根據所述當前內存運行情況，將所述深度神經網絡模型劃分為第一部分網絡層和第二部分網絡層，得到分區結果；其中，所述第一部分網絡層在所述終端設備上運行；所述第二部分網絡層在邊緣計算設備上運行；將所述分區結果發送到所述邊緣計算設備中，以使得所述邊緣計算設備和所述終端設備根據所述分區結果協作完成對所述數據的處理。本申請用以解決現有技術中，終端設備硬件和計算能力的限制導致性能差的技術問題。

技術領域

本申請涉及機器學習技術領域，尤其涉及一種數據協作處理方法、系統、裝置、設備及存儲介質。

背景技術

近年來，深度神經網絡(DNN)被廣泛地應用在各種領域。以DNN為核心的應用程序要求終端設備具備強大的計算能力，但是，目前終端設備由于硬件和計算能力的限制，即便是采用較小的DNN模型，也會出現延時較大的情況，導致終端設備性能較差，無法實時處理圖像、視頻等數據。

發明內容

本申請提供了一種數據協作處理方法、系統、裝置、設備及存儲介質，用以解決現有技術中，終端設備硬件和計算能力的限制導致性能差的技術問題。

第一方面，本申請實施例提供了一種數據協作處理方法，適用于終端設備，所述方法包括：

獲取待處理的數據以及獲取待拆分的目標深度神經網絡模型；

獲取所述終端設備的當前內存運行情況；

根據所述當前內存運行情況，將所述深度神經網絡模型劃分為第一部分網絡層和第二部分網絡層，得到分區結果；其中，所述第一部分網絡層在所述終端設備上運行；所述第二部分網絡層在邊緣計算設備上運行；

將所述分區結果發送到所述邊緣計算設備中，以使得所述邊緣計算設備和所述終端設備根據所述分區結果協作完成對所述數據的處理。

可選的，所述根據所述當前內存運行情況，將所述深度神經網絡模型劃分為第一部分網絡層和第二部分網絡層，包括：

獲取所述目標深度神經網絡模型的各網絡層，在所述終端設備的所述當前內存運行情況下，各自的第一預測延遲時間，以及各網絡層在所述邊緣計算設備中各自的第二預測延遲時間；

根據各所述第一預測延遲時間和各所述第二預測延遲時間，以所述深度神經網絡模型整體的預測延遲時間最短為目標，確定在所述終端設備上運行的所述深度神經網絡模型的第一部分網絡層，以及在所述邊緣計算設備上運行的第二部分網絡層。

可選的，所述獲取所述目標深度神經網絡模型的各網絡層，在所述終端設備的所述當前內存運行情況下，各自的第一預測延遲時間，以及各網絡層在所述邊緣計算設備中各自的第二預測延遲時間，包括：

獲取所述目標深度神經網絡模型的各網絡層各自對應的第一延遲時間預測模型和第二延遲時間預測模型；其中，所述第一延遲時間預測模型為所述網絡層在所述終端設備中運行時的延遲時間預測模型；所述第二延遲時間預測模型為所述網絡層在所述邊緣計算設備中運行時的延遲時間預測模型；

利用所述第一延遲時間預測模型，預測在所述當前內存運行情況下，所述目標深度神經網絡模型的各網絡層在所述終端設備中各自的第一預測延遲時間；

利用所述第二延遲時間預測模型，預測所述目標深度神經網絡模型的各網絡層在所述邊緣計算設備中各自的第二預測延遲時間。

可選的，所述獲取所述目標深度神經網絡模型的各網絡層各自對應的第一延遲時間預測模型和第二延遲時間預測模型，包括：

獲取所述目標深度神經網絡模型的目標模型特征信息；