[發明專利]存內乘加計算方法、裝置、芯片和計算設備

在審

• 申請號: 202111040577.1
• 申請日: 2021-09-06
• 公開（公告）號: CN113741858A
• 公開（公告）日: 2021-12-03
• 發明（設計）人: 常亮;李葦航;司鑫;沈朝暉;陳亮;吳強
• 申請（專利權）人: 南京后摩智能科技有限公司
• 主分類號: G06F7/498
• 分類號: G06F7/498;G06N3/02
• 代理公司: 北京思源智匯知識產權代理有限公司 11657
• 代理人: 靳濤濤

1.一種存內乘加計算方法，包括：

從預設的神經網絡獲取目標數量個輸入權重數據對集合；

生成輸入權重數據對集合中的輸入權重數據對分別對應的編碼；

將所述目標數量個輸入權重數據對集合存入預設的第一存儲區；

對于預設的用于存儲乘積數據的第二存儲區中的每個乘積數據，基于該乘積數據對應的編碼，確定所述第一存儲區中是否存在對應于該乘積數據的目標輸入權重數據對，如果存在，將該乘積數據確定為所述目標輸入權重數據對對應的待累加數據；

對于所述目標數量個輸入權重數據對集合中的每個輸入權重數據對集合，對該輸入權重數據對集合包括的輸入權重數據對分別對應的待累加數據進行累加操作，得到該輸入權重數據對集合對應的累加結果。

2.根據權利要求1所述的方法，其特征在于，所述從預設的神經網絡獲取目標數量個輸入權重數據對集合，包括：

執行目標數量次如下步驟，得到所述目標數量個輸入權重數據對集合：

基于所述神經網絡中的權重窗口的大小和移動步長，從輸入所述神經網絡中的輸入數據中確定所述權重窗口覆蓋的輸入數據和所述權重窗口中的權重數據組成輸入權重數據對集合。

3.根據權利要求1所述的方法，其特征在于，所述生成輸入權重數據對集合中的輸入權重數據對分別對應的編碼，包括：

從所述目標數量個輸入權重數據對集合包括的輸入權重數據對中，確定不包含零的輸入權重數據對；

生成所述不包含零的輸入權重數據對對應的編碼。

4.根據權利要求1所述的方法，其特征在于，所述第二存儲區預先基于如下步驟設置：

確定所述神經網絡中的輸入數據和權重數據的比特位數；

根據所述輸入數據和權重數據的比特位數對應的數據范圍，生成乘積數據集合，并生成所述乘積數據集合中的乘積數據的編碼；

將所述乘積數據集合存入所述第二存儲區。

5.根據權利要求4所述的方法，其特征在于，所述乘積數據集合不包括零。

6.根據權利要求1所述的方法，其特征在于，所述將所述目標數量個輸入權重數據對集合存入預設的第一存儲區，包括：

確定原始輸入數據和原始權重數據的比特位數；

若所述原始輸入數據和所述原始權重數據的比特位數大于所述第一存儲區中的數據存儲單元支持的比特位數，將所述原始輸入數據拆分為至少兩個輸入子數據，以及將所述原始權重數據拆分為至少兩個權重子數據；

根據預設的、用于表示乘法運算的規則，確定輸入子數據和權重子數據的對應關系；

將相對應的輸入子數據和權重子數據作為輸入權重數據對存入所述第一存儲區。

7.根據權利要求6所述的方法，其特征在于，所述對該輸入權重數據對集合包括的輸入權重數據對分別對應的待累加數據進行累加操作，包括：

從該輸入權重數據對集合包括的輸入權重數據對分別對應的待累加數據中，確定對應于同一對原始輸入數據和原始權重數據的至少兩個待累加數據；

基于所述乘法運算的規則，對所確定的至少兩個待累加數據進行移位累加，得到對應于同一對原始輸入數據和原始權重數據的乘積；

對所得到的乘積進行累加，得到該輸入權重數據對集合對應的累加結果。