[發明專利]用于保序的計算裝置、集成電路裝置、板卡及保序方法

在審

• 申請號: 202011183132.4
• 申請日: 2019-12-24
• 公開（公告）號: CN113033791A
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李波;孫新國

本發明涉及一種用于保序的計算裝置、集成電路裝置、板卡及保序方法，其中該總線系統可以包括組合處理裝置，該組合處理裝置還可以包括通用互聯接口和其他處理裝置。所述總線系統中的計算裝置與其他處理裝置進行交互，共同完成指定的計算操作。組合處理裝置還可以包括存儲裝置，該存儲裝置分別與計算裝置和其他處理裝置連接，用于該計算裝置和其他處理裝置的數據存儲。

技術領域

本披露一般地涉及計算機領域。更具體地，本披露涉及用于保序的計算裝置、集成電路裝置、板卡及保序方法。

背景技術

在人工智能領域中，通過神經網絡來進行深度學習是當代顯學，其將把海量數據分組分層，再利用類似神經元的運作概念將這些數據進行處理，形成了神經網絡，通過層層的深度學習，最終獲得結果。這樣的計算過程耗費龐大的資源，通常需要多核處理器作為支撐。在這些處理器彼此協作的過程當中，信號的處理順序顯得至為關鍵。因此，如何獲得一種有效保序的技術方案仍是現有技術中需要解決的問題。

發明內容

為了至少部分地解決背景技術中提到的技術問題，本披露的方案提供了一種用于保序的總線系統、集成電路裝置、板卡及保序方法。

在一個方面中，本披露提供一種應用在神經網絡的保序方法，包括：接收來自第二計算裝置針對第一任務結果的響應；接收來自所述第二計算裝置針對第二任務結果的響應；將所述第二計算裝置針對所述第二任務結果的響應放在緩存中；接收來自第一計算裝置針對所述第一任務結果的響應；以及處理來自所述第一計算裝置針對所述第一任務結果的響應，以及來自所述第二計算裝置針對所述第一任務結果的響應。

在另一個方面中，本披露提供一種應用在神經網絡的后級計算裝置，根據第一計算裝置及第二計算裝置的任務結果而執行任務，所述后級計算裝置用以執行：接收來自所述第二計算裝置針對第一任務結果的響應；接收來自所述第二計算裝置針對第二任務結果的響應；將所述第二計算裝置針對所述第二任務結果的響應放在緩存中；接收來自所述第一計算裝置針對所述第一任務結果的響應；以及處理來自所述第一計算裝置針對所述第一任務結果的響應，以及來自所述第二計算裝置針對所述第一任務結果的響應。

在另一個方面中，本披露提供一種集成電路裝置，其包括上述的后級計算裝置。

在另一個方面中，本披露提供一種板卡，其包括前述的集成電路裝置。

利用本披露的計算裝置、集成電路裝置、板卡及方法，不論是否應該針對特定請求執行任務的計算裝置都會發出響應，后端裝置可以透過接收所有計算裝置的響應來識別并確保響應的順序，更有效率地保序而無需擴充硬件，例如利用后端裝置的緩存調整響應的順序即可，由此可以降低能耗也減小了集成電路的布置面積。

附圖說明

通過參考附圖閱讀下文的詳細描述，本披露示例性實施方式的上述以及其他目的、特征和優點將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本披露的若干實施方式，并且相同或對應的標號表示相同或對應的部分，其中：

圖1是示出根據本披露實施例的計算裝置的框架圖；

圖2是示出根據本披露實施例的總線系統的結構框圖；

圖3是示出根據本披露實施例中請求的數據格式的示意圖；

圖4是示出根據本披露實施例的集成電路裝置的結構圖；

圖5是示出根據本披露實施例的板卡的框架圖；

圖6是示出根據本披露實施例的保序方法的流程圖；以及

圖7是示出根據本披露另一實施例的保序方法的流程圖。

具體實施方式

本披露的技術方案在整體上提供一種用于保序的總線系統、集成電路裝置、板卡及方法。不同于現有技術的保序方式，本披露提供了一種高效的技術方案，能有效降低能耗并縮小硬件面積。