[發明專利]處理系統中動態生成的任務的信令、排序和執行

無效

• 申請號: 201210548491.4
• 申請日: 2012-12-17
• 公開（公告）號: CN103197955A
• 公開（公告）日: 2013-07-10
• 發明（設計）人: 蒂莫西·約翰·珀塞爾;蘭基·V·姍;杰爾姆·F·小杜魯克;肖恩·J·特賴斯勒;卡里姆·M·阿夫達利亞;菲利普·亞歷山大·夸德拉;貝里安·帕里斯
• 申請（專利權）人: 輝達公司
• 主分類號: G06F9/46
• 分類號: G06F9/46
• 代理公司: 北京市磐華律師事務所 11336
• 代理人: 董巍;徐丁峰

技術領域

本發明總體上涉及計算任務的執行，并且更具體地，涉及處理系統中動態生成的任務的信令、排序和執行。

背景技術

常規上，將要在多處理器系統中處理的任務均接收自單個輸入流。如果第一任務將會生成將要由第二任務所處理的數據，那么還從單個輸入流接收第二任務，并且由中央處理單元（CPU）實施將第二任務插入單個輸入流，該中央處理單元與多處理器系統是分開的。

為了實施插入，必須告知CPU準備處理第二任務，并且為其提供存儲第二任務的位置。第二任務的處理由于執行第一任務的多處理器系統和CPU之間所需的通信而造成的延遲而引發附加等待時間。

相應地，本領域需要一種用于使能所生成的任務插入到多處理器系統的調度管線中而無需CPU的參與的系統和方法。

發明內容

用于使能所生成的處理任務插入到多處理器系統的調度管線中而無需CPU的參與的系統和方法。當正在執行的計算任務動態生成動態任務并且寫存儲器中隊列的用于動態任務的數據存儲于其中的條目時，生成反射通知信號并且直接將其傳輸到多處理器系統的調度單元，而無需CPU參與。所傳輸的反射通知信號包括與在隊列中存儲數據的寫請求相對應的信息。響應于其他事件在計算任務的執行期間生成附加信號并且其被直接傳輸到調度單元，所述其他事件例如開始動態任務的處理、使存儲用于計算任務的數據的高速緩存條目無效，以及使能另一個計算任務的調度。

用于通知任務管理器數據可用于處理的本發明的方法的各種實施例包括：生成傳輸到任務管理器的第一通知信號，其中通知信號包括第一偏移和第一Δ值。在與第一處理任務相對應的隊列中存儲與第一偏移和第一Δ值相關聯的第一數據。生成第二通知信號并將其傳輸到任務管理器，其中通知信號包括第二偏移和第二Δ值。在與第一處理任務相對應的隊列中存儲與第二偏移和第二Δ值相關聯的第二數據。接收所述第一通知信號和第二通知信號，并且任務管理器確定第一偏移和第一Δ值是否能夠與第二偏移和第二Δ值合并，以生成經合并的偏移和經合并的Δ值。任務管理器調度用于處理集群陣列中的第一處理任務的第一數據和第二數據中的至少一個的處理。

本發明的各種實施例包括用于通知任務管理器數據可用于處理的系統，其包括隊列、存儲器管理單元和任務管理器。隊列對應于第一處理任務并且配置為存儲包括第一數據和第二數據的數據；存儲器管理單元配置為生成直接傳輸到任務管理器的第一通知信號，其中通知信號指定與第一數據相關聯的第一偏移和第一Δ值，以及生成直接傳輸到任務管理器的第二通知信號，其中通知信號指定與第二數據相關聯的第二偏移和第二Δ值。任務管理器配置為接收第一通知信號和第二通知信號，確定第一偏移和第一Δ值是否能夠與第二偏移和第二Δ值合并，以生成經合并的偏移和經合并的Δ值，以及調度用于處理集群陣列中的第一處理任務的第一數據和第二數據中的至少一個的處理。

此外，與將動態任務隊列中的條目分配給生成用于動態任務的數據的線程的順序相比，寫動態任務隊列的條目的順序可以不同。因此，當由線程動態生成的數據寫入隊列時，跟蹤已經被寫的隊列的有順序的條目，并且當在隊列的前面的條目的序列已經被寫并且可以調度用于處理以開始（或繼續）動態任務的執行時通知調度單元。分配條目給執行生成用于動態任務的數據的計算任務的線程與由不同的線程寫條目的解耦允許生成數據的線程簡單地寫條目并隨后退出或繼續處理其他數據。因此，線程寫隊列不需要按照與線程接收條目的分配相同的順序進行。但是，當條目的序列準備好被調度時，跟蹤和通知調度單元允許盡快地處理數據。

重要的是，做以下事情不需要與CPU通信：（a）當用于動態任務的數據準備好被處理時通知CPU，（b）使高速緩存條目無效，或（c）使能另一個計算任務的調度。因此，與要求CPU參與的系統相比較，為以下工作減小等待時間：（a）調度動態任務數據的處理，（b）無效高速緩存條目，和（c）使能另一個計算任務的調度。

附圖說明

為了詳細地理解本發明的上述特征，對于以上簡要概括的發明，可以參照實施例進行更為具體的描述，其中一些實施例示出于附圖中。然而，應注意的是，附圖中示出的只是本發明的代表性實施例，因此不應被認為是對本發明的范圍的限制，本發明可以適用于其他同等有效的實施例。

圖1是示出了配置為實現本發明的一個或多個方面的計算機系統的框圖；

圖2是根據本發明一個實施例的、用于圖1的計算機系統的并行處理子系統的框圖；

圖3A是根據本發明一個實施例的、圖2的任務/工作單元的框圖；