[發明專利]一種深度學習網絡的網絡結構確定方法及裝置

有效

• 申請號: 201710656729.8
• 申請日: 2017-08-03
• 公開（公告）號: CN109389215B
• 公開（公告）日: 2020-07-31
• 發明（設計）人: 黃崇基
• 申請（專利權）人: 杭州海康威視數字技術股份有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京柏杉松知識產權代理事務所(普通合伙) 11413
• 代理人: 馬敬;項京

本發明實施例提供了一種深度學習網絡的網絡結構確定方法及裝置，其中，該深度學習網絡的網絡結構確定方法包括：針對深度學習網絡中的指定網絡層，獲取處理器中寄存器的寄存器位寬，以及輸入量中元素的元素位寬；根據寄存器位寬、元素位寬，以及寄存器位寬、元素位寬與網絡層的規格參數所滿足的預設關系式，確定指定網絡層的規格參數；根據指定網絡層的規格參數，確定深度學習網絡的網絡結構。通過本方案可以提高部署后的深度學習網絡的運行效率。

技術領域

本發明涉及機器學習技術領域，特別是涉及一種深度學習網絡的網絡結構確定方法及裝置。

背景技術

近年來，隨著互聯網與計算機技術的迅猛發展，深度學習作為機器學習研究中的一個新領域，其動機在于建立、模擬人腦進行分析學習的神經網絡，通過模仿人腦的機制來解析數據，深度學習網絡能夠用更多的數據或是更好的算法來提高學習算法的結果準確度，在處理大數據集上具有較好的運算效果。因此，深度學習算法已經成為當前學術界和工業界的研究熱點。但是，由于深度學習特別是卷積深度學習網絡中網絡訓練和部署都需要巨大的計算量，使得網絡訓練和部署的過程復雜、耗時大。

針對上述問題，相關的深度學習網絡中，提出了通過優化輸入數據或優化訓練流程來減少網絡訓練和部署的計算量，以提高網絡訓練和部署效率的方法，以及通過優化多個處理器上的任務分配來提高網絡的訓練和部署效率的方法。但是，每個網絡層的規格參數，即每個網絡層的滑窗尺寸、每個網絡層的輸入通道數都是根據技術人員的經驗進行設計的，導致深度學習網絡的網絡結構適應性較差，從而使得部署后的深度學習網絡的運行效率仍然較低。

發明內容

本發明實施例的目的在于提供一種深度學習網絡的網絡結構確定方法及裝置，以提高部署后的深度學習網絡的運行效率。具體技術方案如下：

第一方面，本發明實施例提供了一種深度學習網絡的網絡結構確定方法，所述方法包括：

針對深度學習網絡中的指定網絡層，獲取處理器中寄存器的寄存器位寬，以及所述輸入量中元素的元素位寬，其中，所述處理器用于運行深度學習網絡，所述寄存器用于存儲所述指定網絡層待運算的輸入量；

根據所述寄存器位寬、所述元素位寬，以及預設關系式，確定所述指定網絡層的規格參數，其中，所述預設關系式為寄存器位寬、元素位寬與網絡層的規格參數所滿足的關系式；

根據所述指定網絡層的規格參數，確定所述深度學習網絡的網絡結構。

第二方面，本發明實施例提供了一種深度學習網絡的網絡結構確定裝置，所述裝置包括：

獲取模塊，用于針對深度學習網絡中的指定網絡層，獲取處理器中寄存器的寄存器位寬，以及所述輸入量中元素的元素位寬，其中，所述處理器用于運行深度學習網絡，所述寄存器用于存儲所述指定網絡層待運算的輸入量；

規格參數確定模塊，用于根據所述寄存器位寬、所述元素位寬，以及預設關系式，確定所述指定網絡層的規格參數，其中，所述預設關系式為寄存器位寬、元素位寬與網絡層的規格參數所滿足的關系式；

網絡結構確定模塊，用于根據所述指定網絡層的規格參數，確定所述深度學習網絡的網絡結構。

第三方面，本發明實施例提供了一種電子設備，包括處理器、通信接口、存儲器和通信總線，其中，所述處理器、所述通信接口、所述存儲器通過所述通信總線完成相互間的通信；

所述存儲器，用于存放計算機程序；

所述處理器，用于執行所述存儲器上所存放的程序時，實現第一方面所述的方法步驟，所述處理器中包括寄存器，其中，所述寄存器，用于存儲待運算的輸入量。

第四方面，本發明實施例提供了一種計算機可讀存儲介質，所述計算機可讀存儲介質內存儲有計算機程序，所述計算機程序被處理器執行時實現第一方面所述的方法步驟。