[發明專利]用于任務同步的方法和系統及系統中的主節點和工作節點

有效

• 申請號: 201110351929.5
• 申請日: 2011-11-09
• 公開（公告）號: CN103108000A
• 公開（公告）日: 2013-05-15
• 發明（設計）人: 郭磊濤;錢嶺;齊驥;周大
• 申請（專利權）人: 中國移動通信集團公司
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 余朦;王艷春

技術領域

本申請涉及通信技術。更具體地，本申請涉及大規模并行計算系統中的任務同步方法、任務同步系統、任務同步系統中的主節點及任務同步系統中的工作節點。

背景技術

隨著互聯網的高速發展，大規模并行計算系統也越發受到關注。目前，存在多種用于大規模并行計算系統的并行計算模型，如PRAM(parallel?random?Access?Machine并行隨機存取機器)模型、LogP模型、BSP(Bulk?Synchronous?Parallel大規模同步并行)模型等。

在這些并行計算模型中，BSP是Leslie?Valiant于上世紀80年代提出的，它是由一系列的超步(super?step)組成，每個超步順序執行如下操作：(1)本地計算(local?computing)，即每個工作節點分別進行計算；(2)消息傳遞(messaging)，本地計算完成后或者計算的過程中，在工作節點之中進行消息的傳遞；(3)全局同步(barrier?synchronization)，工作節點完成計算和消息傳遞后進入全局同步狀態，等待所有其他工作節點全部完成消息傳遞后再進行下一輪超步過程。

然而，在現有的面向大規模處理的系統中，在BSP實現系統中，當進行全局同步(Barrier?Synchronization)時，以每個任務為單位向主節點發送消息，即每個工作節點的每個任務需要分別向主節點發送消息，通知主節點其已經完成了計算和消息交換并等待主節點發送后續消息。由于所有的任務有可能在同一時間段內完成，所以在任務完成的時間段內主節點會有較高的負載甚至會成為系統的瓶頸。

發明內容

本發明的目的是提供能夠改善上述現有技術中的缺陷的一種大規模并行計算系統中的任務同步方法，以降低主節點的負載和網絡通信量，提高網絡傳送效率。

根據本申請的第一方面，公開了一種大規模并行計算系統中的任務同步方法，包括：主節點將一個作業中的多個任務分配給多個工作節點；以及在接收到所有工作節點發送的同步消息后，所述主節點確定該作業完成一個超步，其中，來自每個工作節點的所述同步消息指示分配給該工作節點的屬于同一作業的所有任務已完成。

根據本申請的第二方面，公開了一種大規模并行計算系統中的任務同步方法，包括：每個工作節點對分配給該工作節點的屬于一個作業的所有任務執行本地計算；根據計算結果確定分配給該工作節點的每個任務是否完成；以及在確定分配給該工作節點的所述所有任務完成后向主節點發送同步消息。

根據本申請的第三方面，公開了一種大規模并行計算系統中的任務同步系統，包括主節點和一個或多個工作節點，其中所述主節點用于將一個作業中的多個任務分配給多個工作節點，所述工作節點用于在每個工作節點完成所述主節點分配給該工作節點的屬于同一作業的所有任務后向所述主節點發送同步消息。

根據本申請的第四方面，公開了一種用于大規模并行計算系統的任務同步系統中的主節點，包括：分配模塊，用于將一個作業中的多個任務分配給多個工作節點；以及接收模塊，用于接收來自所述多個工作節點的同步消息，來自每個工作節點的所述同步消息指示分配給該工作節點的屬于同一作業的所有任務已完成。

根據本申請的第五方面，公開了一種用于大規模并行計算系統的任務同步系統中的工作節點，包括：計算模塊，用于對分配給該工作節點的屬于一個作業的所有任務執行本地計算；監控模塊，根據所述計算模塊的計算結果確定分配給該工作節點的每個任務是否完成；發送模塊，在確定分配給該工作節點的所述所有任務完成后向主節點發送同步消息。

根據本申請的方案，每個工作節點在完成分配給該工作節點的屬于同一作業的所有任務后向主節點發送同步消息，避免了每個任務完成后直接向主節點發送同步消息，從而降低了主節點的負載和網絡通信量。

附圖說明

圖1示出了根據本申請的一種實施方式的大規模并行計算系統的任務同步方法；

圖2示出了根據本申請的一種實施方式的任務同步系統；

圖3示出了根據本申請的一種實施方式的用于任務同步系統中的主節點；以及

圖4示出了根據本申請的一種實施方式的用于任務同步系統中的工作節點。

具體實施方式

下面參照附圖對本申請公開的大規模并行計算系統中的任務同步方法、任務同步系統、任務同步系統中的主節點及任務同步系統中的工作節點進行詳細說明。為簡明起見，本申請各實施例的說明中，相同或類似的裝置使用了相同或相似的附圖標記。