[發明專利]運算方法、裝置及相關產品

有效

• 申請號: 201910085443.8
• 申請日: 2019-01-29
• 公開（公告）號: CN111488116B
• 公開（公告）日: 2022-11-22
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06F3/06
• 分類號: G06F3/06;G06N3/063
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種運算方法、裝置及相關產品，所述產品包括控制模塊，所述控制模塊包括：指令緩存單元、指令處理單元和存儲隊列單元；所述指令緩存單元，用于存儲所述人工神經網絡運算關聯的計算指令；所述指令處理單元，用于對所述計算指令解析得到多個運算指令；所述存儲隊列單元，用于存儲指令隊列，該指令隊列包括：按該隊列的前后順序待執行的多個運算指令或計算指令。通過以上方法，本公開可以提高相關產品在進行神經網絡模型的運算時的運算效率。

技術領域

本公開涉及計算機技術領域，尤其涉及一種運算方法、裝置及相關產品。

背景技術

隨著計算機技術的發展，尤其是神經網絡技術的普及，越來越多的神經網絡被開發和使用，神經網絡的規模也隨之越來越大。通常情況下，神經網絡是逐層進行計算，網絡上每層的計算結果都會保存下來。當神經網絡的網絡層深很深時，保存每層的計算結果所需的存儲空間往往大于處理器所能提供的存儲空間，給存儲空間帶來巨大壓力。

發明內容

有鑒于此，本公開提出了一種數據處理方法及裝置以及人工智能處理裝置。

根據本公開的一方面，提供了一種數據處理方法，包括：

根據預設的數據處理過程中待使用的多個數據塊的使用順序，建立所述多個數據塊的數據執行序列；

根據所述多個數據塊的標識以及所述多個數據塊在數據執行序列中的位置，分別確定各個數據塊的標識與使用周期之間的對應關系，每個數據塊的使用周期包括該數據塊在所述數據執行序列中的初次出現位置及末次出現位置；

根據所述對應關系，判斷在第一數據塊之前使用的數據塊中是否存在與所述第一數據塊的使用周期不重疊的第二數據塊，所述第一數據塊是所述多個數據塊中的任意一個；

在存在不重疊的第二數據塊時，根據所述第二數據塊的存儲空間，為所述第一數據塊指定對應的存儲空間；

在數據處理過程中，根據各個數據塊的存儲空間的地址，分別存儲各個數據塊。

在一種可能的實現方式中，判斷在第一數據塊之前使用的數據塊中是否存在與所述第一數據塊的使用周期不重疊的數據塊，包括：在所述第一數據塊的初次出現位置在所述第二數據塊的末次出現位置之后時，判斷所述第二數據塊與所述第一數據塊的使用周期不重疊。

在一種可能的實現方式中，在存在不重疊的第二數據塊時，根據所述第二數據塊的存儲空間，為所述第一數據塊分配對應的存儲空間，包括以下任意一種：

在所述第二數據塊的存儲空間大于或等于所述第一數據塊的尺寸且未被占用時，將所述第二數據塊的存儲空間指定為所述第一數據塊的存儲空間；

在所述第二數據塊的存儲空間被占用時，為所述第一數據塊指定新的存儲空間；

在所述第二數據塊的存儲空間小于所述第一數據塊的尺寸時，為所述第一數據塊指定新的存儲空間；

在所述第二數據塊的存儲空間小于所述第一數據塊的尺寸時，根據所述第一數據塊的尺寸擴展所述第二數據塊的存儲空間，并將擴展后的存儲空間指定為所述第一數據塊的存儲空間。

在一種可能的實現方式中，在存在不重疊的第二數據塊時，根據所述第二數據塊的存儲空間，為所述第一數據塊指定對應的存儲空間，包括以下任意一種：

當存在不重疊的多個第二數據塊時，將初次出現位置最前的第二數據塊的存儲空間指定為所述第一數據塊的存儲空間；

當存在不重疊的多個第二數據塊時，將尺寸最大的第二數據塊的存儲空間指定為所述第一數據塊的存儲空間。

在一種可能的實現方式中，所述方法還包括：在第一數據塊之前使用的數據塊均與所述第一數據塊的使用周期重疊時，為所述第一數據塊分配新的存儲空間。