[發明專利]一種基于深度神經網絡的邊緣計算任務的分配方法及裝置

有效

• 申請號: 201911421262.4
• 申請日: 2019-12-31
• 公開（公告）號: CN111176820B
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 王煜煒;李敘晶;孫勝;劉敏;王元卓
• 申請（專利權）人: 中科院計算技術研究所大數據研究院
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50;G06N3/04;G06N3/08
• 代理公司: 北京沁優知識產權代理有限公司 11684
• 代理人: 郭娜

本發明提供了一種基于深度神經網絡的邊緣計算任務的分配方法，其步驟包括：獲得參數量數據，分別計算神經網絡中，待計算網絡層的參數量；獲得計算量數據，根據待計算網絡層的參數量獲得計算量數據；計算任務分配，根據計算量數據獲得終端設備計算任務；根據終端設備計算任務獲得邊緣服務器的計算任務；判斷剩余計算任務是否需要在云服務器執行。此外，本發明還提供了一種基于深度神經網絡的邊緣計算任務的分配裝置、存儲介質，可以充分考慮各層設備的實時剩余計算資源情況，并在此基礎上計算各層的參數量與計算量，得到對應的部署方案，實現各層設備計算能力的充分利用。

技術領域：

本發明涉及計算機技術領域，具體的，涉及一種基于深度神經網絡的邊緣計算任務的分配方法及裝置。

背景技術：

近些年人工智能取得了很大的進展，它的應用隨著相關技術的成熟逐漸滲透進入了生活。神經網絡作為人工智能中常用的手段，它雖然有很好的性能(準確率等)，但它的訓練和推導都需要很大的計算量，在邊緣計算框架下，就單個終端設備來說，很難快速的完成訓練或者得到推理(一次執行)的結果。尤其是卷積神經網絡(CNN)，由于其參數眾多，推理計算資源需求大，一般的終端設備難以快速獲取推理結果。

分布式技術對機器學習也有很大的幫助，將不同位置的設備通過網絡結合在一起，整合算力，從而得到更快的任務響應速度。這樣的分布式思想衍生出了云計算、邊緣計算、物聯網等新的領域。云計算的出現使得普通用戶可以得到廉價而巨大的計算資源，但傳統的云計算需要完整的任務輸入，而且數據傳輸距離很長，這會導致通信帶寬消耗大、響應時延不可估計以及隱私難以保護等缺點。在這樣的環境下，漸漸發展出了霧計算、邊緣計算等新的非本地計算模式。邊緣計算中，終端將數據發送給離用戶較近的邊緣服務器，邊緣服務器將接收的數據進行處理，并返回結果給用戶。這樣的計算方式雖然沒有和云一樣強大的計算能力，但是保證了低延遲、高可靠性和用戶隱私不被侵犯，另外還有非常高的魯棒性和可擴展性。一般來說，邊緣計算的延遲大約在10毫秒之內，而云計算的延遲大約在100毫秒。面對神經網絡的推理任務，雖然邊緣計算延遲夠低，但是其總體計算性能不夠高，云服務器計算能力夠強，但是不可控的延遲和隱私問題成為最大的隱患。

因此，本領域亟需一種任務分配方法及裝置，以更好的結合終端、邊緣、云三部分，從而取得更好的效果和體驗。

發明內容：

有鑒于此，本發明的目的在于提供一種基于深度神經網絡的邊緣計算任務的分配方法及裝置，以解決背景技術中所述的至少一個技術問題。

具體的，本發明的第一方面，提供了一種基于深度神經網絡的邊緣計算任務的分配方法，其步驟包括：

獲得參數量數據，分別計算神經網絡中，待計算網絡層的參數量；

獲得計算量數據，根據待計算網絡層的參數量獲得計算量數據；

計算任務分配，根據計算量數據獲得終端設備計算任務；根據終端設備計算任務獲得邊緣服務器的計算任務；判斷剩余計算任務是否需要在云服務器執行，如需要，則將剩余計算任務分配至云服務器，如不需要，則將剩余計算任務分配至邊緣服務器。

采用上述技術方案，可以充分考慮各層設備的實時剩余計算資源情況，并在此基礎上計算各層的參數量與計算量，得到對應的部署方案，通過計算任務的優化分配，實現各層設備計算能力的充分利用，提高處理效率。

優選地，所述基于深度神經網絡的邊緣計算任務的分配方法，還包括步驟：

獲得內存占用數據，根據待計算網絡層的參數量獲得內存占用數據。

優選地，所述待計算網絡層的參數量包括卷積層參數量、全連接層參數量；所述計算量數據包括卷積層計算量、全連接層計算量。

優選地，所述基于深度神經網絡的邊緣計算任務的分配方法，還包括步驟：

識別卷積層、全連接層，對神經網絡中的各層進行分析，獲得卷積層、全連接層。