[發明專利]一種運算裝置及其操作方法

在審

• 申請號: 202010616922.0
• 申請日: 2016-08-05
• 公開（公告）號: CN111857822A
• 公開（公告）日: 2020-10-30
• 發明（設計）人: 陳云霽;劉少禮;陳天石
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F17/16
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明提供了一種運算裝置及其操作方法，裝置包括數據模塊及運算模塊，數據模塊對數據進行操作，運算模塊用于根據指令對數據進行相關運算。本發明能夠在執行指令時，根據待運算數據的長度和運算模塊的規模進行相應調整，提升了包含大量向量計算任務的執行性能，具有指令結構簡潔、數據運算靈活高效等優點。

技術領域

本發明屬于計算機領域，具體涉及一種運算裝置及其操作方法。

背景技術

隨著大數據時代的來臨，與向量運算的相關應用也日益增加，參與運算的數據量不斷增大，數據規格和維度不斷擴增，運算形式也逐漸增多，一方面，運算單元的規模難以隨著數據量的大幅度提升而大幅度擴大，這就使得運算時如何調控運算數據提出了要求；另一方面，這些運算不再局限于在統一規格的數據間進行，而是有很大一部分運算是不同規格或不同維度的數據間進行，這就為運算裝置的靈活性提出了更高的要求。

在現有技術中，一種進行向量運算的已知方案是使用通用處理器(CPU)或圖形處理器(GPU)，然而，這種方法或者因其結構更適應于標量運算，進行向量運算時效率較低；或者，因其片上緩存太小，無法滿足高效完成大規模向量運算的要求。在另一種現有技術中，使用專門定制的向量運算裝置來進行向量計算，即使用定制的存儲單元和處理單元進行向量運算。然而，目前已有的專用向量運算裝置受限于寄存器堆，只能支持相同長度的向量運算，靈活性不足。

除此之外，上述裝置對應的指令集，只能執行相同長度的數據的運算，且受限于存儲器的規模和運算單元的規模。對于不同長度的數據和不滿足運算單元規模的數據，一種方式是采用多條指令對數據進行依次調用，另一種方式是采用循環指令的方式進行反復調用。這不僅使得指令集的結構復雜，指令隊列冗長，且執行效率低下，而且運行時限制多、靈活性差，無法為大規模的向量運算提供便利。

發明內容

(一)要解決的技術問題

本發明的目的在于，提供一種運算裝置及其操作方法，用于根據指令高效靈活地執行相同規模或不同規模的數據的運算，解決了當前越來越多的算法包含大量相同規模或不同規模數據的運算問題，降低了運算單元規模。

(二)技術方案

本發明提供一種運算裝置，裝置包括數據模塊和運算模塊，其中：數據模塊用于根據指令，向運算模塊提供運算數據，所述運算數據包括第一數據和第二數據；所述指令包括操作碼和操作域，所述操作域包括：第一數據的起始存儲地址、第二數據的起始存儲地址、以及運算結果存儲地址；所述數據模塊包括數據I/O單元和數據暫存單元，其中，數據I/O單元用于根據所述第一數據的起始存儲地址讀取第一數據以及根據所述第二數據的起始存儲地址讀取所述第二數據，數據暫存單元用于存儲運算數據，并對該運算數據進行調整后，提供至運算模塊；運算模塊用于根據指令及數據模塊提供的運算數據，對所述第一數據和第二數據進行運算。

在一種可行的實施例中，所述數據暫存單元根據運算單元的規模和運算數據的長度，對運算數據進行調整后，提供至運算模塊。

在一種可行的實施例中，所述數據暫存單元根據運算單元的規模和運算數據的長度，對運算數據進行調整后，提供至運算模塊，包括：

當第一數據的長度和第二數據的長度均小于等于運算模塊的運算規模時，數據暫存單元直接將第一數據和第二數據提供至運算模塊；

當第一數據的長度和第二數據的長度均大于運算模塊的運算規模時，分別將第一數據和第二數據拆分為多個長度均小于等于所述運算規模的子運算數據，并將該多個子運算數據分多次提供至所述運算模塊；

當第一數據和第二數據中，一個運算數據長度大于運算模塊的運算規模，另一個運算數據長度小于等于運算模塊的運算規模時，將長度大于運算規模的運算數據拆分為多個長度均小于等于運算規模的子運算數據，并將該多個子運算數據和長度小于等于運算規模的運算數據分多次提供至所述運算模塊。