[發明專利]一種強同步下的神經網絡映射方法及裝置

在審

• 申請號: 201911035345.X
• 申請日: 2019-10-29
• 公開（公告）號: CN112749778A
• 公開（公告）日: 2021-05-04
• 發明（設計）人: 張偉豪;李涵;胡川
• 申請（專利權）人: 北京靈汐科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京麥寶利知識產權代理事務所(特殊普通合伙) 11733
• 代理人: 趙艷紅

本公開提供了一種強同步下的神經網絡映射方法及裝置，該方法包括：將卷積神經網絡中各網絡層針對預設特征圖的計算任務映射至芯片的至少一個處理單元上；獲取芯片中各處理單元中完成所述計算任務所需的階段Phase數目，并對多個處理單元的Phase數目進行第一階段配平；將卷積神經網絡中各網絡層針對預設特征圖的計算任務映射至經過第一階段配平后的芯片的至少一個處理單元上。在本公開所提供方案中，在一個同步單位的約束下，可以將神經網絡映射前進行一階段配平，并給出每個階段的以資源配平為目標及滿足資源約束條件的映射算法，相較傳統方案，本實施例的神經網絡映射方法可以在同步約束下更好的解決眾核負載均衡的問題。

技術領域

本公開涉及神經網絡技術領域，特別是涉及一種強同步下的神經網絡映射方法及裝置。

背景技術

隨著人工智能智能技術在各個領域的不斷應用，芯片的研發如火如荼。大多數人工智能的主要目的都是更快或者更低功耗地運行芯片，而神經網絡算法擁有高計算量、高并行度、資源分布不均衡的特點，因此，如何將神經網絡算法映射到芯片上便成為了一個重要的問題。

發明內容

鑒于上述問題，本公開提供了一種克服上述問題或至少部分地解決了上述問題的一種強同步下的神經網絡映射方法及裝置。

根據本公開的一個方面，提供了一種強同步下的神經網絡映射方法，應用于包括多個處理單元的芯片，所述方法包括：

獲取所述芯片中各處理單元中完成預設特征圖所需的階段Phase數目，并對所述多個處理單元的Phase數目進行配平；

基于各所述處理單元配平后的Phase數目，將所述卷積神經網絡中各網絡層針對所述預設特征圖的計算任務映射至所述芯片的至少一個處理單元上。

可選地，所述對所述多個處理單元的Phase數目進行配平，包括：

判斷是否存在第一階段配平下降方向；

若是，則計算所述第一階段配平基準，并根據所述第一階段基準進行第一階段配平；

獲取各Phase中的MAC數目，基于所述MAC數目進行第二階段配平。

可選地，所述判斷是否存在第一階段配平下降方向，包括：

獲取預設的配平向量，基于所述配平向量判斷是否存在第一階段配平下降方向。

可選地，所述配平向量p的公式如下：

p＝(pr,px,pf,py,pw)

其中，pr，用于調節一個Phase內的MAC數；

px，用于調節Phase數；

pf，用于調節一個Phase內的MAC數；

py，用于調節Phase數；

pw，用于調節Phase數與Phase內MAC數。

可選地，所述計算所述第一階段配平基準，包括：

獲取各所述處理單元的負載，基于各所述處理單元的負載設置配平的基準負載，將所述基準負載作為所述第一階段配平基準。

可選地，所述根據所述第一階段基準進行第一階段配平，包括：

在所述配平向量p中提取第一配平向量p₁，根據所述第一階段基準利用所述第一配平向量進行第一階段配平；

其中，第一配平向量為p₁，p₁＝(px,py,pw)。

可選地，獲取各Phase中的MAC數目，基于所述MAC數目進行第二階段配平，包括：