[發明專利]運算方法、裝置及相關產品

有效

• 申請號: 201811459244.0
• 申請日: 2018-11-30
• 公開（公告）號: CN111260046B
• 公開（公告）日: 2022-12-02
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

1.一種數據處理裝置，其特征在于，所述裝置用于執行機器學習計算，所述裝置包括控制模塊和處理模塊，所述處理模塊包括數據廣播子模塊、多個數據傳輸通道和多個數據運算子模塊，每個數據傳輸通道與對應的一個數據運算子模塊連接，

所述控制模塊用于獲取計算指令，并獲取執行所述計算指令所需的多個輸入數據；

所述數據廣播子模塊用于將所述多個輸入數據依次廣播到所述多個數據傳輸通道；

每個數據傳輸通道用于對接收到的多個輸入數據進行處理，得到多個中間結果，并將所述多個中間結果依次發送到連接的數據運算子模塊；

每個數據運算子模塊用于對接收到的多個中間結果進行累加運算，得到所述計算指令的計算結果；

其中，所述機器學習計算包括：人工神經網絡運算，所述多個輸入數據包括多個輸入神經元數據和多個權值數據，所述計算結果為輸出神經元數據；

其中，每個數據傳輸通道對接收到的多個輸入數據進行處理，得到多個中間結果，包括：每個所述數據傳輸通道根據各所述權值數據攜帶的標記，從多個權值數據中確定出標記與所述數據傳輸通道對應的目標權值數據，并根據所述計算指令對輸入神經元數據和所述目標權值數據進行運算，得到中間結果。

2.根據權利要求1所述的裝置，其特征在于，所述多個輸入數據的數據類型包括指數型和動態定點型中的至少一項，所述輸入神經元數據和所述權值數據的數據類型不同，

其中，根據所述計算指令對輸入神經元數據和所述目標權值數據進行運算，得到中間結果，包括：

根據所述計算指令對目標權值數據或所述輸入神經元數據進行移位運算，得到中間結果，

其中，所述指數型的輸入數據包括指數位，以指定值為底數、指數位存儲的數據為指數進行計算所得到的數據表示所述指數型的輸入數據的數值，

所述動態定點型的輸入數據包括小數點位和整數位，所述小數點位所存儲數據用于標記所述動態定點型的輸入數據的小數點在所述整數位所存儲數據中的位置，以區分所述整數位的數據中的整數部分和小數部分，

其中，所述指數型的輸入數據所對應的指定值與所述輸入數據的進位制相同。

3.根據權利要求1所述的裝置，其特征在于，所述處理模塊包括主處理子模塊和多個從處理子模塊，每個從處理子模塊包括所述數據廣播子模塊和所述多個數據傳輸通道，所述主處理子模塊包括所述多個數據運算子模塊，

所述控制模塊，還用于解析所述計算指令得到多個運算指令，并將所述輸入數據以及所述多個運算指令發送至所述主處理子模塊；

所述主處理子模塊，用于對所述輸入數據執行前序處理，以及與所述多個從處理子模塊進行數據和運算指令的傳輸；

所述多個從處理子模塊，用于根據從所述主處理子模塊傳輸的數據和運算指令并行執行中間運算得到多個中間結果，并將所述多個中間結果傳輸給所述主處理子模塊；

所述主處理子模塊，還用于對所述多個中間結果執行后續處理，得到所述計算指令的計算結果。

4.根據權利要求1所述的裝置，其特征在于，

所述裝置還包括：存儲模塊，用于存儲所述輸入數據；

其中，所述控制模塊，包括：

指令存儲子模塊，用于存儲所述計算指令；

指令處理子模塊，用于對所述計算指令進行解析，得到所述計算指令的多個運算指令；

隊列存儲子模塊，用于存儲指令隊列，所述指令隊列包括按照執行順序依次排列的多個待執行指令，所述多個待執行指令包括所述多個運算指令；

其中，所述控制模塊，還包括：

依賴關系處理子模塊，用于在確定所述多個待執行指令中的第一待執行指令與所述第一待執行指令之前的第零待執行指令存在關聯關系時，將所述第一待執行指令緩存在所述指令存儲子模塊中，在所述第零待執行指令執行完畢后，從所述指令存儲子模塊中提取所述第一待執行指令發送至所述處理模塊，

其中，所述第一待執行指令與所述第一待執行指令之前的第零待執行指令存在關聯關系包括：

存儲所述第一待執行指令所需數據的第一存儲地址區間與存儲所述第零待執行指令所需數據的第零存儲地址區間具有重疊的區域。