[發明專利]運算方法、裝置及相關產品

有效

• 申請號: 201811222530.5
• 申請日: 2018-10-19
• 公開（公告）號: CN111079915B
• 公開（公告）日: 2021-01-26
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種運算方法、裝置及相關產品。該裝置包括設備確定模塊和指令生成模塊，設備確定模塊用于根據接收到的讀宏指令，確定執行讀宏指令的運行設備。指令生成模塊用于根據讀宏指令和運行設備，生成運行指令。本公開實施例所提供的運算方法、裝置及相關產品，可跨平臺使用，適用性好，指令轉換的速度快、處理效率高、出錯幾率低，且開發的人力、物力成本低。

技術領域

本公開涉及信息處理技術領域，尤其涉及一種數據讀入指令生成方法、裝置及相關產品。

背景技術

隨著科技的不斷發展，神經網絡算法的使用越來越廣泛。其在圖像識別、語音識別、自然語言處理等領域中都得到了良好的應用。但由于神經網絡算法的復雜度越來越高，其模型的規模不斷增大。基于圖形處理器(Graphics Processing Unit，簡稱GPU)、中央處理器(Central Processing Unit，簡稱CPU)的大規模的神經網絡模型，要花費大量的計算時間，且耗電量大。相關技術中，對神經網絡模型的處理速度進行加快的方式存在無法跨平臺處理、處理效率低、開發成本高、易出錯等問題。

發明內容

有鑒于此，本公開提出了一種數據讀入指令生成方法、裝置及相關產品，使其能夠跨平臺使用，提高處理效率，降低出錯幾率和開發成本。

根據本公開的第一方面，提供了一種數據讀入指令生成裝置，所述裝置包括：

設備確定模塊，用于根據接收到的讀宏指令，確定執行所述讀宏指令的運行設備；

指令生成模塊，用于根據所述讀宏指令和所述運行設備，生成運行指令，

其中，所述讀宏指令是指用于進行數據讀入的宏指令，

所述讀宏指令包含操作類型、數據讀入地址、數據加密方式地址，所述運行指令中包含所述操作類型、運行數據讀入地址和運行數據加密方式地址，所述運行數據讀入地址和運行數據加密方式地址分別是根據所述數據讀入地址和所述數據加密方式地址確定的。

根據本公開的第二方面，提供了一種機器學習運算裝置，所述裝置包括：

一個或多個上述第一方面所述的數據讀入指令生成裝置，用于從其他處理裝置中獲取待運算數據和控制信息，并執行指定的機器學習運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述機器學習運算裝置包含多個所述數據讀入指令生成裝置時，所述多個所述數據讀入指令生成裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述數據讀入指令生成裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的機器學習的運算；多個所述數據讀入指令生成裝置共享同一控制系統或擁有各自的控制系統；多個所述數據讀入指令生成裝置共享內存或者擁有各自的內存；多個所述數據讀入指令生成裝置的互聯方式是任意互聯拓撲。

根據本公開的第三方面，提供了一種組合處理裝置，所述裝置包括：

上述第二方面所述的機器學習運算裝置、通用互聯接口和其他處理裝置；

所述機器學習運算裝置與所述其他處理裝置進行交互，共同完成用戶指定的計算操作。

根據本公開的第四方面，提供了一種機器學習芯片，所述機器學習芯片包括上述第二方面所述的機器學習絡運算裝置或上述第三方面所述的組合處理裝置。

根據本公開的第五方面，提供了一種機器學習芯片封裝結構，該機器學習芯片封裝結構包括上述第四方面所述的機器學習芯片。

根據本公開的第六方面，提供了一種板卡，該板卡包括上述第五方面所述的機器學習芯片封裝結構。

根據本公開的第七方面，提供了一種電子設備，所述電子設備包括上述第四方面所述的機器學習芯片或上述第六方面所述的板卡。