[發明專利]一種任務處理系統、方法及芯片

有效

• 申請號: 202111041363.6
• 申請日: 2021-09-07
• 公開（公告）號: CN113495791B
• 公開（公告）日: 2021-12-14
• 發明（設計）人: 劉偉;劉彥
• 申請（專利權）人: 上海燧原科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F13/28
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本發明實施例公開了一種任務處理系統、方法及芯片。其中，系統包括：主計算集群和輔助計算集群，主計算集群和輔助計算集群保持通信連接；主計算集群用于處理主芯片任務；主芯片任務包括主計算集群獨立處理的任務；輔助計算集群用于處理輔助芯片任務；輔助芯片任務包括主計算集群聯立處理的任務。本發明實施例的技術方案可以實現計算集群資源的高效利用，提高芯片系統性能。

技術領域

本發明實施例涉及芯片技術領域，尤其涉及一種任務處理系統、方法及芯片。

背景技術

芯片，又稱微電路（microcircuit）、微芯片（microchip）、集成電路（integratedcircuit，IC），是指內含集成電路的硅片，體積很小，常常是計算機或其他電子設備的一部分。人工智能芯片能夠有效處理人工智能模型，是芯片領域的重點發展方向。

人工智能芯片中通常包含多個計算集群，各計算集群各自獨立工作，但是也存在需要相互協作的場景。例如，在正向推斷計算中，多個計算集群共享權重數據。如果多個集群同時訪問一份權重數據，則芯片需要按照獲取權重數據的計算集群的數量為每個計算集群均復制一份權重數據，以供各計算集群使用計算。在反向梯度計算中，如果每個計算集群都計算生成一份梯度數據，那么需要在整個芯片范圍內將所有的梯度數據規約成一份。

發明人在實現本發明的過程中，發現現有技術存在如下缺陷：如果計算集群參與處理權重復制和梯度合并等相互協作的計算場景，需要推遲后續的數據搬運和計算等芯片處理任務，導致整個芯片的計算時間變長，性能變差。

發明內容

本發明實施例提供一種任務處理系統、方法及芯片，以實現計算集群資源的高效利用，提高芯片系統性能。

第一方面，本發明實施例提供了一種任務處理系統，配置于芯片，包括主計算集群和輔助計算集群，所述主計算集群和所述輔助計算集群保持通信連接；其中：

所述主計算集群用于處理主芯片任務；所述主芯片任務包括主計算集群獨立處理的任務；

所述輔助計算集群用于處理輔助芯片任務；所述輔助芯片任務包括主計算集群聯立處理的任務。

第二方面，一種任務處理方法，應用于芯片，包括：

通過芯片內的主計算集群處理主芯片任務；

通過所述芯片內的輔助計算集群處理輔助芯片任務。

第三方面，本發明實施例還提供了一種芯片，其特征在于，所述芯片包括本發明任意實施例所提供的所述任務處理系統。

本發明實施例通過在芯片中配置保持通信連接的主計算集群和輔助計算集群，通過主計算集群處理包括主計算集群獨立處理任務的主芯片任務，通過輔助計算集群處理包括主計算集群聯立處理任務的輔助芯片任務，解決現有芯片在計算集群相互協作的場景中，主芯片任務被推遲導致的計算時間變長、性能變差的技術問題，實現計算集群資源的高效利用，提高芯片系統性能。

附圖說明

圖1為本發明實施例一提供的一種任務處理系統的示意圖。

圖2為現有技術中的一種任務處理系統的架構示意圖。

圖3為現有技術中的任務處理系統的工作流程示意圖。

圖4為本發明實施例一提供的一種任務處理系統的架構示意圖。

圖5為本發明實施例一提供的一種任務處理系統的工作流程示意圖。

圖6為本發明實施例一提供的一種輔助計算集群的示意圖。

圖7為本發明實施例二提供的一種任務處理方法的流程圖。

圖8為本發明實施例三提供的一種芯片的示意圖。

具體實施方式