[發明專利]運算方法、裝置及相關產品

在審

• 申請號: 201910197973.1
• 申請日: 2019-03-15
• 公開（公告）號: CN111695669A
• 公開（公告）日: 2020-09-22
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/02
• 分類號: G06N3/02;G06N20/00
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及運算方法、裝置及相關產品，所述產品包括控制器單元，所述控制器單元包括：指令緩存單元、指令處理單元和存儲隊列單元；所述指令緩存單元，用于存儲所述人工神經網絡運算關聯的計算指令；所述指令處理單元，用于對所述計算指令解析得到多個運算指令；所述存儲隊列單元，用于存儲指令隊列，該指令隊列包括：按該隊列的前后順序待執行的多個運算指令或計算指令。通過以上方法，本公開可以提高相關產品在進行神經網絡模型的運算時的運算效率。

技術領域

本公開涉及信息處理技術領域，尤其涉及一種運算方法、裝置及相關產品。

背景技術

在人工智能技術領域，神經網絡算法是最近非常流行的一種機器學習算法，在各種領域中都取得了非常好的效果，比如圖像識別，語音識別，自然語言處理等。隨著神經網絡算法的發展，算法的復雜度也越來越高，為了提高識別度，模型的規模也在逐漸增大。

發明內容

根據本公開的第一方面，提供了一種矩陣的運算方法，所述方法包括：

根據接收的待運算矩陣，獲取對應的待運算張量，所述待運算張量包括第一張量和第二張量；

根據所述第一張量和所述第二張量的形狀，確定神經網絡模型的輸入數據；

將所述輸入數據通過所述神經網絡模型，根據所述神經網絡模型的輸出結果，得到所述待運算矩陣的運算結果。

在一種可能的實現方式中，根據接收的待運算矩陣，獲取對應的第一張量和第二張量，所述待運算張量包括第一張量和第二張量，包括：

接收第一矩陣和第二矩陣；

根據所述第一矩陣和所述第二矩陣，分別得到對應的第一張量和第二張量。

在一種可能的實現方式中，根據所述第一矩陣和所述第二矩陣，分別得到對應的第一張量和第二張量，包括：

對所述第一矩陣和所述第二矩陣分別進行相同的維度擴展，得到對應的第一張量和第二張量。

在一種可能的實現方式中，根據所述第一張量和所述第二張量的形狀，確定神經網絡模型的輸入數據，包括：

將所述第一張量作為神經網絡模型的初始輸入張量，所述第二張量作為神經網絡模型的初始過濾器張量，得到所述神經網絡模型的初始輸入數據；

根據所述初始輸入張量和所述初始過濾器張量之間的比較結果，確定所述神經網絡模型的輸入數據。

在一種可能的實現方式中，根據所述初始輸入張量和所述初始過濾器張量之間的比較結果，確定所述神經網絡模型的輸入數據，包括：

讀取所述初始輸入張量的批處理數目；

讀取所述初始過濾器張量的輸出通道數目；

根據所述批處理數目和所述輸出通道數目的大小關系，確定所述神經網絡模型的輸入數據。

在一種可能的實現方式中，根據所述批處理數目和所述輸出通道數目的大小關系，確定所述神經網絡模型的輸入數據，包括：

在所述輸出通道數目與所述批處理數目之差不小于閾值時，對所述初始輸入數據執行調換操作，得到所述神經網絡模型的輸入數據；

在所述輸出通道數目與所述批處理數目之差小于閾值時，將所述初始輸入數據作為所述神經網絡模型的輸入數據。

在一種可能的實現方式中，對所述初始輸入數據執行調換操作，得到所述神經網絡模型的輸入數據，包括：

將所述初始輸入張量作為所述神經網絡模型的過濾器張量，將所述初始過濾器張量作為所述神經網絡模型的輸入張量，得到所述神經網絡模型的輸入數據。