[發明專利]一種強同步下的神經網絡映射方法及裝置

在審

• 申請號: 201911035345.X
• 申請日: 2019-10-29
• 公開（公告）號: CN112749778A
• 公開（公告）日: 2021-05-04
• 發明（設計）人: 張偉豪;李涵;胡川
• 申請（專利權）人: 北京靈汐科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京麥寶利知識產權代理事務所(特殊普通合伙) 11733
• 代理人: 趙艷紅

1.一種強同步下的神經網絡映射方法，應用于包括多個處理單元的芯片，所述方法包括：

將卷積神經網絡中各網絡層針對預設特征圖的計算任務映射至所述芯片的至少一個處理單元上；

獲取所述芯片中各處理單元中完成所述計算任務所需的階段Phase數目，并對所述多個處理單元的Phase數目進行第一階段配平；

將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至經過第一階段配平后的所述芯片的至少一個處理單元上。

2.根據權利要求1所述的方法，其特征在于，所述對所述多個處理單元的Phase數目進行第一階段配平，包括：

判斷是否存在第一階段配平下降方向；

若是，則計算所述第一階段配平基準，并根據所述第一階段基準進行第一階段配平。

3.根據權利要求2所述的方法，其特征在于，所述判斷是否存在第一階段配平下降方向，包括：

獲取預設的配平向量，基于所述配平向量判斷是否存在第一階段配平下降方向。

4.根據權利要求3所述的方法，其特征在于，所述配平向量p的公式如下：

p＝(pr,px,pf,py,pw)

其中，pr，用于調節一個Phase內的MAC數；

px，用于調節Phase數；

pf，用于調節一個Phase內的MAC數；

py，用于調節Phase數；

pw，用于調節Phase數與Phase內MAC數。

5.根據權利要求2-4任一項所述的方法，其特征在于，所述計算所述第一階段配平基準，包括：

獲取各所述處理單元的負載，基于各所述處理單元的負載設置配平的基準負載，將所述基準負載作為所述第一階段配平基準。

6.根據權利要求4所述的方法，其特征在于，所述根據所述第一階段基準進行第一階段配平，包括：

在所述配平向量p中提取第一配平向量p₁，根據所述第一階段基準利用所述第一配平向量進行第一階段配平；

其中，第一配平向量為p₁，p₁＝(px,py,pw)。

7.根據權利要求1-6任一項所述的方法，其特征在于，所述將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至經過第一階段配平后的所述芯片的至少一個處理單元上之后，還包括：

獲取各Phase中的MAC數目，基于所述MAC數目進行第二階段配平；

將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至經過第二階段配平后的所述芯片的至少一個處理單元上。

8.根據權利要求7所述的方法，其特征在于，所述獲取各Phase中的MAC數目，基于所述MAC數目進行第二階段配平，包括：

對于任一Phase，獲取所述Phase中的MAC數目，判斷是否存在第二階段配平下降方向；

若是，則計算所述第二階段配平基準，并根據所述第二階段基準進行第一階段配平。

9.根據權利要求7所述的方法，其特征在于，所述將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至經過第二階段配平后的所述芯片的至少一個處理單元上之后，還包括：

迭代進行所述第一階段配平和第二階段配平。

10.一種強同步下的神經網絡映射裝置，應用于芯片，所述裝置包括：

映射模塊，將卷積神經網絡中各網絡層針對預設特征圖的計算任務映射至所述芯片的至少一個處理單元上；

配平模塊，配置為獲取所述芯片中各處理單元中完成所述計算任務所需的階段Phase數目，并對所述多個處理單元的Phase數目進行第一階段配平；

所述映射模塊，還配置為基于各所述處理單元配平后的Phase數目，將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至經過第一階段配平后的所述芯片的至少一個處理單元上。

11.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，該程序被處理器執行以實現權利要求1-9中任一項所述的強同步下的神經網絡映射方法。