[發明專利]一種任務處理方法及處理裝置、計算機系統

有效

• 申請號: 201810463722.9
• 申請日: 2018-05-15
• 公開（公告）號: CN110489213B
• 公開（公告）日: 2022-04-05
• 發明（設計）人: 李維;高雄;林灝勛;馬濤
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 馮艷蓮

本申請涉及計算機技術領域，公開了一種任務處理方法及處理裝置、計算機系統，方法的實現包括：第一處理裝置生成多個任務，并確定所述多個任務的任務描述信息，所述多個任務的任務描述信息用于指示所述多個任務之間的依賴關系，其中，存在依賴關系的任意兩個任務中，其中一個任務的處理需要等待另一個任務的處理結果；所述第一處理裝置向第二處理裝置發送指令，所述指令中包括所述多個任務和所述多個任務的任務描述信息；所述第二處理裝置接收所述指令，并根據所述多個任務之間的依賴關系對所述多個任務進行處理。如此，本申請實施例中的方案能夠有效降低等待時延，充分發揮加速芯片的計算能力，提高任務處理效率。

技術領域

本申請涉及計算機技術領域，尤其涉及一種任務處理方法及處理裝置、計算機系統。

背景技術

在信息產業高速發展的今天，計算需求日益豐富，計算機的計算性能不斷提升，并由過去的同構計算發展到現在的異構計算。異構計算是指采用了中央處理器(centralprocessing unit，CPU)之外的處理器完成計算任務，不同的計算任務可能采用不同的處理器，比如：數字信號處理器(digital signal processing，DSP)、圖形處理器(graphicsprocessing unit，GPU)、現場可編程門陣列(field programmable gate array，FPGA)，以及近年來出現的神經網絡處理器(neural network processing unit，NPU)。NPU服務于人工智能(artificial intelligence，AI)計算，特長在于海量的矩陣乘法，可以高效地完成神經網絡中的卷積計算。由于異構計算采用多核并行的處理架構，所需的計算時間極低，因此對任務的調度效率提出了更高的要求。

當前主流的異構計算均采用主機-設備(Host-Device)模型，由Host向Device異步分發計算任務和相關(輸入/輸出)數據搬移任務，然后由Device完成計算和數據搬移。其中，Host在向Device分發任務時，需要保證該任務所依賴的前提條件都滿足(比如，該任務所依賴的任務均已處理完成)后才分發該任務，而沒有相互依賴關系的任務則可以隨機發送。具體來說，Host根據應用程序的調用生成多個任務，并把多個任務放入不同的隊列中，然后從隊列中取任務發送給Device；Host需要在接收到Device返回的處理結果后，再發送下一個任務。

然而，由于AI計算任務間的多層數據依賴特征，Device將當前任務處理完成后，需要通過高延遲的Host-Device線再次通知Host獲取后繼任務，從而增加了任務的等待時延，造成Device的計算停頓，不能充分發揮加速芯片的計算能力。

發明內容

本申請提供了一種任務處理方法及處理裝置、計算機系統，用以解決任務的等待時延較大、不能充分發揮加速芯片的計算能力的問題。

第一方面，本申請實施例提供一種任務處理方法，包括：

第一處理裝置生成多個任務，并確定所述多個任務的任務描述信息，所述多個任務的任務描述信息用于指示所述多個任務之間的依賴關系，其中，存在依賴關系的任意兩個任務中，其中一個任務的處理需要等待另一個任務的處理結果；

所述第一處理裝置向第二處理裝置發送指令，所述指令中包括所述多個任務和所述多個任務的任務描述信息。

本申請實施例中，第一處理裝置將多個任務以及多個任務的任務描述信息一并發送第二處理裝置，如此，第二處理裝置在處理完成一個任務后，可以直接根據多個任務之間的依賴關系獲取下一個任務進行處理，相比于現有技術中，第二處理裝置處理完成一個任務后需要通知給第一處理裝置，并由第一處理裝置下發下一個任務來說，本申請實施例中的方案能夠有效降低等待時延，充分發揮加速芯片的計算能力，提高任務處理效率；且，能夠降低第一處理裝置的處理負載，滿足未來第二處理裝置計算能力擴展的場景下，第一處理裝置與第二處理裝置的負載平衡，并能夠更好地滿足芯片算力提升、高數據吞吐量、多層數據依賴特征的AI場景下，計算能力與數據搬移能力的平衡和整體性能提升。