[發明專利]一種無鎖并行的流量調度方法及系統

無效

• 申請號: 201210132054.4
• 申請日: 2012-04-28
• 公開（公告）號: CN102638410A
• 公開（公告）日: 2012-08-15
• 發明（設計）人: 胥攀;徐放;羅向征
• 申請（專利權）人: 邁普通信技術股份有限公司
• 主分類號: H04L12/56
• 分類號: H04L12/56
• 代理公司: 北京德琦知識產權代理有限公司 11018
• 代理人: 牛崢;王麗琴

技術領域

本發明涉及數據通信領域的流量調度技術，尤其涉及在擁有多個并行處理單元的系統中要求完成精確高性能的流量調度。

背景技術

傳統的流量調度方法流程如圖1所示，包括如下步驟：

步驟101：流量被分類到多個隊列后，首先運行調度算法，調度算法根據調度節點狀態選擇一個隊列；

步驟102：從該隊列中出隊一個報文并發送；

步驟103：更新調度節點狀態，并返回步驟101。

通過循環執行上述流程，以達到流量調度的目的。

隨著并行處理時代的到來，越來越多的通信系統引入了多個獨立的處理單元，例如多核、多處理器，甚至是分布式系統，由于傳統的流量調度方法是基于單線程設計，因此傳統流量調度技術很難有效地利用多個并行處理單元完成流量調度，其原因在于：

1.流量調度采用的調度算法復雜多樣，且調度流程中各個步驟的狀態相互依賴，這種特性使得流量調度很難被流水線化處理。

2.考慮使用多個處理單元并行執行流量調度，由于這些并行處理單元共享同一份調度數據資源，例如令牌桶、配額等，使得各個處理單元必須加鎖互斥的訪問這些資源，這樣多個單元的并行實際上被互斥鎖串行化了，從而達不到真正并發的目的。

因此，傳統流量調度技術成為擁有多個并行處理單元的通信系統的性能瓶頸。

發明內容

本發明提供了一種無鎖并行的流量調度方法及系統，能夠在擁有多個并行處理單元的系統中有效地實現對流量的高效調度。

本發明實施例提供了一種流量調度系統，該流量調度系統包括調度模塊、隊列模塊和采樣模塊；

隊列模塊用于管理至少一個隊列；所述隊列是用于接收并緩存流量的緩沖區，隊列有打開和關閉兩個狀態，流量能夠從處于打開狀態的隊列中流出，而在處于關閉狀態的隊列中，流量被阻塞；

采樣模塊用于對隊列模塊的隊列上流出的流量進行采樣，并將采樣得到的采樣數據傳遞到調度模塊；

調度模塊用于基于采樣數據更新各個隊列對應的調度節點狀態，并根據更新后的調度節點狀態運行調度算法，調度算法的運行結果控制隊列模塊中哪些隊列處于打開狀態，哪些隊列處于關閉狀態。

較佳地，采樣模塊和調度模塊之間的采樣數據傳遞通過共享內存實現。

較佳地，采樣模塊和調度模塊之間的采樣數據傳遞通過消息發送實現。

較佳地，所述采樣模塊進一步包括一定時器，所述定時器超時則觸發采樣模塊對隊列模塊的隊列上流出的流量進行采樣。

較佳地，所述隊列模塊進一步包括：

感知單元，用于感知隊列流量發生變化或者隊列流量低于第一閾值或者高于第二閾值時，向采樣模塊發送觸發消息；

所述采樣模塊在收到觸發消息后，對隊列模塊的隊列上流出的流量進行采樣。

較佳地，流量調度系統位于包含至少兩個并行處理單元的系統中，，所述調度模塊被指定在一個單獨的處理單元上，隊列模塊被指定在其他處理單元上。

本發明實施例提供了一種流量調度方法，包括如下步驟：

A、接收并緩存流到隊列；

B、發送處于打開狀態的隊列中的流；阻塞處于關閉狀態的隊列中的流；

C、對所述隊列中處于打開狀態的隊列進行采樣，對采樣得到的采樣數據更新隊列對應的調度節點狀態；

D、根據更新后的調度節點狀態運行調度算法，調度算法的運行結果控制隊列處于打開或關閉的狀態，并返回步驟A。

較佳地，步驟B所述對隊列進行采樣包括：判斷定時器是否超時，若是，則對打開狀態的隊列進行采樣。

較佳地，步驟B所述對隊列進行采樣包括：若感知到任一隊列流量發生變化或者任一隊列流量低于第一閾值或者高于第二閾值時，觸發對該隊列進行采樣。

從以上技術方案可以看出，流量調度和流量的出隊發送之間沒有嚴格的相互依賴，因此能夠有效地利用系統中存在的多個處理單元，使得多個處理單元能夠無鎖的相互配合完成流量調度。本發明方案可以進一步擴展到分布式系統中，實現對分布式的流量進行統一的管理調度。

附圖說明

圖1為傳統的流量調度方法流程示意圖；

圖2為本發明提供的流量調度系統示意圖；

具體實施方式

本發明提供的流量調度系統如圖2所示，包括調度模塊201、隊列模塊202和采樣模塊203。