[發明專利]神經網絡的內存分配方法及裝置

在審

• 申請號: 202011010035.5
• 申請日: 2020-09-23
• 公開（公告）號: CN112084037A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 安徽寒武紀信息科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/063
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強

1.一種神經網絡的內存分配方法，其特征在于，應用于單核處理器，所述單核處理器包括n個內存區域，所述n為正整數，所述方法包括：

獲取所述神經網絡對應的原始計算圖，所述原始計算圖包括多個操作神經元和所述操作神經元對應的數據神經元；

基于所述操作神經元的深度優先序列，計算所述原始計算圖中所有數據神經元的存儲周期；

基于所述數據神經元的存儲周期，分配第i個內存區域給第一數據神經元，所述第i個內存區域的內存大小大于或等于所述第一數據神經元占用的內存大小，所述第一數據神經元為所述原始計算圖中的任一數據神經元，所述i小于或等于n。

2.根據權利要求1所述的方法，其特征在于，所述基于所述操作神經元的深度優先序列，計算每個所述數據神經元的存儲周期，包括：

基于所述操作神經元的深度優先序列，獲取每個數據神經元的所有對應操作神經元的序列號；分別將每個數據神經元的所有對應操作神經元的序列號中的最小序列號和最大序列號之間的區間范圍作為所述每個數據神經元的存儲周期。

3.根據權利要求1或2所述的方法，其特征在于，所述方法還包括：

在所述第一數據神經元的存儲周期與第二數據神經元的存儲周期不重疊的情況下，分配所述第i個內存區域給所述第二數據神經元，所述第二數據神經元占用的內存大小包括所述第一數據神經元占用的內存大小，所述第二數據神經元為所述原始計算圖中除了第一數據神經元的任一數據神經元。

4.根據權利要求3所述的方法，其特征在于，所述方法還包括：

在所述第二數據神經元占用的內存大小大于所述第i個內存區域的內存大小的情況下，擴展所述第i個內存區域的內存大小為所述第二數據神經元占用的內存大小。

5.根據權利要求1或2所述的方法，其特征在于，所述方法還包括：

在所述第一數據神經元的存儲周期與第二數據神經元的存儲周期重疊的情況下，分配所述第i個內存區域給所述第二數據神經元，所述第二數據神經元占用的內存大小包括第一偏移內存大小，所述第一偏移內存大小為所述第一數據神經元占用的內存大小中除了第一沖突數據占用的內存大小，所述第一沖突數據為所述第一數據神經元和所述第二數據神經元均包括的數據。

6.根據權利要求5所述的方法，其特征在于，所述方法還包括：

在第一內存大小大于所述第i個內存區域的內存大小的情況下，擴展所述第i個內存區域的內存大小為所述第一內存大小，所述第一內存大小為所述第二數據神經元占用的內存大小與所述第一沖突數據占用的內存大小之和。

7.根據權利要求3-6任一項所述的方法，其特征在于，所述方法還包括：

在所述第一數據神經元的對應操作神經元與所述第二數據神經元的對應操作神經元執行相同操作時，分配所述第一數據神經元占用的內存大小給所述第二數據神經元。

8.一種神經網絡的內存分配裝置，其特征在于，應用于單核處理器，所述單核處理器包括n個內存區域，所述n為正整數，所述裝置包括：

獲取單元，用于獲取所述神經網絡對應的原始計算圖，所述原始計算圖包括多個操作神經元和所述操作神經元對應的數據神經元；

計算單元，用于基于所述操作神經元的深度優先序列，計算所述原始計算圖中所有數據神經元的存儲周期；

分配單元，用于基于所述數據神經元的存儲周期，分配第i個內存區域給第一數據神經元，所述第i個內存區域的內存大小大于或等于所述第一數據神經元占用的內存大小，所述第一數據神經元為所述原始計算圖中的任一數據神經元，所述i小于或等于n。

9.一種計算機設備，其特征在于，所述計算機設備包括處理器、存儲器、通信總線和通信接口，其中，所述處理器、通信接口、存儲器通過通信總線完成相互間的通信，所述存儲器用于存放計算機程序，所述處理器用于執行所述存儲器上所存放的程序時實現如權利要求1-7任一項方法中的步驟的指令。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質包括存儲用于數據交換的計算機程序，所述計算機程序被處理器執行時實現如權利要求1-7任一項所述的方法。