[發明專利]分布式任務處理與異步模型訓練系統、方法、設備及介質

在審

• 申請號: 202211091395.1
• 申請日: 2022-09-07
• 公開（公告）號: CN115562820A
• 公開（公告）日: 2023-01-03
• 發明（設計）人: 張澤超;董建波;李豪
• 申請（專利權）人: 阿里巴巴（中國）有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06N3/04;G06N3/08
• 代理公司: 北京太合九思知識產權代理有限公司 11610
• 代理人: 張愛;劉戈

1.一種分布式任務處理系統，其特征在于，用于對目標作業任務進行處理，所述目標作業任務包括可并行執行的多個子任務，所述系統包括：用于執行所述多個子任務的多個第一節點，以及用于為所述多個第一節點提供執行子任務所需的任務數據的多個第二節點；

每個第一節點對應所述多個第二節點中的至少兩個第二節點，用于向所述至少兩個第二節點分別發送任務請求，并根據所述至少兩個第二節點根據所述任務請求提供的至少兩個任務數據執行對應的子任務；其中，所述至少兩個第二節點向同一第一節點提供不同的任務數據；

每個第二節點對應所述多個第一節點中至少兩個第一節點，用于接收所述至少兩個第一節點發送的至少兩個任務請求，獲取所述至少兩個任務請求對應的至少兩個任務數據；根據所述至少兩個第一節點的調度優先級，按照預設的并發數N，在每個發送窗口從所述至少兩個任務數據中讀取N個任務數據，通過物理網卡將所述N個任務數據發送給當前被調度到的N個第一節點；其中，N是正整數，且小于所述第一節點的數量。

2.根據權利要求1所述的系統，其特征在于，每個第二節點具體用于：

獲取所述至少兩個第一節點對應的目標參數，根據所述至少兩個第一節點的調度優先級，結合所述至少兩個第一節點對應的目標參數，對所述至少兩個任務數據進行排序；按照預設的并發數N，在每個發送窗口從排序后的至少兩個任務數據中讀取排在最前面的N個任務數據；

其中，所述目標參數用于保證每個第一節點對應的任務數據在設定時間內能夠被發送出去。

3.根據權利要求2所述的系統，其特征在于，每個第二節點獲取所述至少兩個第一節點對應的目標參數，包括：針對所述至少兩個第一節點中每個第一節點，從每個第一節點發送的任務請求中獲取所述第一節點的當前任務輪數，作為所述第一節點對應的目標參數，所述當前任務輪數表示第一節點當前執行子任務的輪數。

4.根據權利要求3所述的系統，其特征在于，每個第二節點還用于維護第一發送任務隊列，所述第一發送任務隊列用于存儲所述多個任務數據；

相應地，每個第二節點根據所述至少兩個第一節點的調度優先級，結合所述至少兩個第一節點對應的目標參數，對所述至少兩個任務數據進行排序，包括：

每當獲取到一個任務請求對應的任務數據時，根據所述任務數據以及所述第一發送任務隊列中已有任務數據對應的第一節點的當前任務輪數，確定所述任務數據在所述第一發送任務隊列中的目標位置范圍，其中，同一位置范圍內的任務數據對應的第一節點的當前任務輪數相同；

根據所述任務數據以及所述目標位置范圍內已有任務數據對應的第一節點的調度優先級，將所述任務數據插入所述目標位置范圍內已有任務數據中。

5.一種異步模型訓練系統，其特征在于，用于執行面向深度學習的異步模型訓練任務，所述異步模型訓練任務包括可并行執行的多個模型訓練子任務，所述系統包括多個參數服務器和多個工作節點；

每個工作節點，用于向所述多個參數服務器中至少兩個參數服務器發送參數獲取請求，并根據所述至少兩個參數獲取請求提供的至少兩個模型參數執行對應的模型訓練子任務；其中，所述至少兩個參數服務器向同一工作節點提供不同的模型參數；

每個參數服務器負責為所述多個工作節點中至少兩個工作節點提供模型參數，用于接收所述至少兩個工作節點發送的參數獲取請求，獲取所述至少兩個參數獲取請求對應的至少兩個模型參數并將所述至少兩個模型參數封裝成至少兩個報文；根據所述至少兩個工作節點的調度優先級，按照預設的并發數N，在每個發送窗口從所述至少兩個報文中讀取N個報文，通過物理網卡將所述N個報文發送給當前被調度到的N個工作節點；其中，N是正整數，且小于所述工作節點的數量。