[發明專利]運算方法、裝置及相關產品

在審

• 申請號: 201910406775.1
• 申請日: 2019-05-15
• 公開（公告）號: CN111047028A
• 公開（公告）日: 2020-04-21
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種運算方法、裝置及相關產品。機器學習裝置包括一個或多個指令處理裝置，用于從其他處理裝置中獲取待運算數據和控制信息，并執行指定的機器學習運算，將執行結果通過I/O接口傳遞給其他處理裝置；當機器學習運算裝置包含多個指令處理裝置時，多個指令處理裝置間可以通過特定的結構進行連接并傳輸數據。其中，多個指令處理裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據；多個指令處理裝置共享同一控制系統或擁有各自的控制系統、且共享內存或者擁有各自的內存；多個指令處理裝置的互聯方式是任意互聯拓撲。本公開實施例所提供的運算方法、裝置及相關產品的適用范圍廣，運算的的處理效率高、處理速度快。

技術領域

本公開涉及計算機技術領域，尤其涉及一種運算方法、裝置及相關產品。

背景技術

隨著科技的不斷發展，機器學習，尤其是神經網絡算法的使用越來越廣泛。其在圖像識別、語音識別、自然語言處理等領域中都得到了良好的應用。但由于神經網絡算法的復雜度越來越高，所涉及的數據運算種類和數量不斷增大。相關技術中，通過線性整流函數(Rectified Linear Unit，ReLU，也可稱ReLU函數)對數據進行激活運算的效率低、速度慢。

發明內容

有鑒于此，本公開提出了一種運算方法、裝置及相關產品，以提高對數據進行線性整流函數激活運算的效率和速度。

根據本公開的第一方面，提供了一種線性整流函數激活指令處理裝置，所述裝置包括：

控制模塊，用于對獲取到的線性整流函數激活指令進行解析，得到所述線性整流函數激活指令的操作碼和操作域，并根據所述操作碼和所述操作域獲取執行所述線性整流函數激活指令所需的待運算數據和目標地址；

運算模塊，用于對所述待運算數據進行線性整流函數激活運算，得到運算結果，并將所述運算結果存入所述目標地址中，

其中，所述操作碼用于指示所述線性整流函數激活指令對數據所進行的激活運算為線性整流函數激活運算，所述操作域包括待運算數據地址和所述目標地址。

根據本公開的第二方面，提供了一種機器學習運算裝置，所述裝置包括：

一個或多個上述第一方面所述的線性整流函數激活指令處理裝置，用于從其他處理裝置中獲取待運算數據和控制信息，并執行指定的機器學習運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述機器學習運算裝置包含多個所述線性整流函數激活指令處理裝置時，所述多個所述線性整流函數激活指令處理裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述線性整流函數激活指令處理裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的機器學習的運算；多個所述線性整流函數激活指令處理裝置共享同一控制系統或擁有各自的控制系統；多個所述線性整流函數激活指令處理裝置共享內存或者擁有各自的內存；多個所述線性整流函數激活指令處理裝置的互聯方式是任意互聯拓撲。

根據本公開的第三方面，提供了一種組合處理裝置，所述裝置包括：

上述第二方面所述的機器學習運算裝置、通用互聯接口和其他處理裝置；

所述機器學習運算裝置與所述其他處理裝置進行交互，共同完成用戶指定的計算操作。

根據本公開的第四方面，提供了一種機器學習芯片，所述機器學習芯片包括上述第二方面所述的機器學習絡運算裝置或上述第三方面所述的組合處理裝置。

根據本公開的第五方面，提供了一種機器學習芯片封裝結構，該機器學習芯片封裝結構包括上述第四方面所述的機器學習芯片。

根據本公開的第六方面，提供了一種板卡，該板卡包括上述第五方面所述的機器學習芯片封裝結構。