[發明專利]計算裝置、集成電路芯片、板卡、電子設備和計算方法

在審

• 申請號: 202010619425.6
• 申請日: 2020-06-30
• 公開（公告）號: CN113867799A
• 公開（公告）日: 2021-12-31
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/38
• 分類號: G06F9/38
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 孫新國

本披露公開了一種計算裝置、集成電路芯片、板卡和使用前述計算裝置來執行運算操作的方法。其中該計算裝置可以包括在組合處理裝置中，該組合處理裝置還可以包括通用互聯接口和其他處理裝置。所述計算裝置與其他處理裝置進行交互，共同完成用戶指定的計算操作。組合處理裝置還可以包括存儲裝置，該存儲裝置分別與設備和其他處理裝置連接，用于存儲該設備和其他處理裝置的數據。本披露的方案可以提升包括例如人工智能領域在內的各類數據處理領域運算的運行效率，從而降低運算的整體開銷和成本。

技術領域

本披露一般地涉及計算領域。更具體地，本披露涉及一種計算裝置、集成電路芯片、板卡、電子設備和計算方法。

背景技術

在計算系統中，指令集是用于執行計算和對計算系統進行控制的一套指令的集合，并且在提高計算系統中計算芯片(例如處理器)的性能方面發揮著關鍵性的作用。當前的各類計算芯片(特別是人工智能領域的芯片)利用相關聯的指令集，可以完成各類通用或特定的控制操作和數據處理操作。然而，當前的指令集還存在諸多方面的缺陷。例如，現有的指令集受限于硬件架構而在靈活性方面表現較差。進一步，許多指令僅能完成單一的操作，而多個操作的執行則通常需要多條指令，這潛在地導致片內I/O數據吞吐量增大。另外，當前的指令在執行速度、執行效率和對芯片造成的功耗方面還有改進之處。

另外，傳統的處理器CPU的運算指令被設計為能夠執行基本的單數據標量運算操作。這里，單數據操作指的是指令的每一個操作數都是一個標量數據。然而，在圖像處理和模式識別等任務里，面向的操作數往往是多維向量(即，張量數據)的數據類型，僅僅使用標量操作無法使硬件高效地完成運算任務。因此，如何高效地執行多維的張量運算也是當前計算領域亟需解決的問題。

發明內容

為了至少解決上述現有技術中存在的問題，本披露提供一種具有支持多級流水運算的一組或多組流水運算電路的硬件架構。通過利用該硬件架構來執行計算指令，本披露的方案可以在包括增強硬件的處理性能、減小功耗、提高計算操作的執行效率和避免計算開銷等多個方面獲得技術優勢。進一步，本披露的方案在前述硬件架構的基礎上支持對張量數據的高效訪存和處理，從而在計算指令中包括多維向量操作數的情況下，加速張量運算并且減小張量運算所帶來的計算開銷。

在第一方面中，本披露提供一種計算裝置，包括：一組或多組流水運算電路，其配置成根據解析計算指令后所獲得的多個運算指令來執行多級流水運算，其中每組所述流水運算電路構成一條多級運算流水線，并且所述多級運算流水線中包括逐級布置的多個運算電路，其中所述計算指令的操作數包括用于指示張量的形狀的描述符，并且所述描述符用于確定所述操作數對應數據的存儲地址，

其中響應于接收到多個運算指令，所述多級運算流水線中的至少一級運算電路配置成基于所述存儲地址來執行所述多個運算指令中的對應一個運算指令。

在第二方面中，本披露提供一種集成電路芯片，其包括如上所述并且將在下面多個實施例中描述的計算裝置。

在第三方面中，本披露提供一種板卡，其包括如上所述并且將在下面多個實施例中描述的集成電路芯片。

在第四方面中，本披露提供一種電子設備，其包括如上所述并且將在下面多個實施例中描述的集成電路芯片。

在第五方面中，本披露提供一種使用前述計算裝置來執行計算的方法，其中所述計算裝置包括一組或多組流水運算電路，所述方法包括：將所述一組或多組流水運算電路中的每組配置成根據解析計算指令后所獲得的多個運算指令來執行多級流水運算，其中每組所述流水運算電路構成一條多級運算流水線，并且該多級運算流水線中包括逐級布置的多個運算電路，其中所述計算指令的操作數包括用于指示張量的形狀的描述符，并且所述描述符用于確定所述操作數對應數據的存儲地址；以及響應于接收到多個運算指令，將所述多級運算流水線中的至少一級運算電路配置成基于所述存儲地址來執行所述多個運算指令中的對應一個運算指令。