[發明專利]基于線程數量限制的服務器業務請求并行處理方法及系統

有效

• 申請號: 201210212637.8
• 申請日: 2012-06-26
• 公開（公告）號: CN103516536B
• 公開（公告）日: 2017-02-22
• 發明（設計）人: 王忻
• 申請（專利權）人: 重慶新媒農信科技有限公司
• 主分類號: H04L12/24
• 分類號: H04L12/24;H04L29/08
• 代理公司: 重慶博凱知識產權代理有限公司50212
• 代理人: 張先蕓

1.基于線程數量限制的服務器業務請求并行處理方法，其特征在于，預先根據服務器對業務請求處理時長的長短將業務請求分為數個類別，并分別設置各類別業務請求對應的并行處理線程上限數量，各類別業務請求對應的并行處理線程上限數量的總和等于服務器能夠用于執行業務請求并行處理的線程的總數；服務器接收業務請求并進行類別識別，對不同類別業務請求分別排隊，形成各類別業務請求相應的請求隊列，且服務器分別對每一個類別的請求隊列中尚未處理的業務請求調用不超過相應類別業務請求對應的并行處理線程上限數量的線程進行多線程并行處理。

2.根據權利要求1所述的服務器業務請求并行處理方法，其特征在于，所述“預先根據服務器對業務請求處理時長的長短將業務請求分為數個類別，并分別設置各類別業務請求對應的并行處理線程上限數量”具體為：

a1）預先統計服務器處理各不同業務請求的處理時長，獲得其中的最短處理時長和最長處理時長；

a2）將所述最短處理時長至所述最長處理時長之間的時長空間劃分為依次相鄰的數個時長區間，將預先統計的處理時長在同一時長區間的業務請求歸為一類，從而根據預先統計的各不同業務請求的處理時長所在的時長區間，將業務請求對應的分為數個類別；

a3）分別設置各類別業務請求對應的并行處理線程上限數量，各類別業務請求對應的并行處理線程上限數量的總和等于服務器能夠用于執行業務請求并行處理的線程的總數。

3.根據權利要求1所述的服務器業務請求并行處理方法，其特征在于，所述“服務器接收業務請求并進行類別識別，對不同類別業務請求分別排隊，形成各類別業務請求相應的請求隊列”具體為：

b1）預先分別設置各類別業務請求的隊列存儲空間，用于分別存儲各類別業務請求相應的請求隊列；

b2）在服務器接收到業務請求時，識別接收到的業務請求所屬的類別，查找到相應類別業務請求的隊列存儲空間；

b3）將接收到的業務請求作為其相應類別的請求隊列中當前排隊最靠后的一個存入相應類別業務請求的隊列存儲空間。

4.根據權利要求1所述的服務器業務請求并行處理方法，其特征在于，所述“服務器分別對每一個類別的請求隊列中尚未處理的業務請求調用不超過相應類別業務請求對應的并行處理線程上限數量的線程進行多線程并行處理”具體為：

對每一個類別的業務請求，按如下步驟分別進行多線程并行處理的線程調用控制：

c1）檢測該類別業務請求相應的請求隊列中當前是否存在尚未處理的業務請求；若存在，則執行步驟c2）；若不存在，則執行步驟c4）；

c2）檢測當前對該類別業務請求執行并行處理的線程數量，判斷當前對該類別業務請求執行并行處理的線程數量是否已達到該類別業務請求對應的并行處理線程上限數量；若已達到，則執行步驟c4）；若尚未達到，則執行步驟c3）；

c3）調用一個線程對該類別的請求隊列中當前排隊最靠前的一個尚未處理的業務請求進行處理，然后立即返回步驟c1）；

c4）延時Δt時長，然后返回步驟c1）。

5.根據權利要求4所述的服務器業務請求并行處理方法，其特征在于，所述Δt時長的取值范圍為50~500ms。

6.根據權利要求1所述的服務器業務請求并行處理方法，其特征在于，所述各類別業務請求對應的并行處理線程上限數量中，平均處理時長越長的業務請求類別對應的并行處理線程上限數量的值越小。

7.基于線程數量限制的服務器業務請求并行處理系統，其特征在于，包括分類處理模塊、排隊處理模塊和數個線程調用模塊；

所述分類處理模塊用于預先根據服務器對業務請求處理時長的長短將業務請求分為數個類別，并分別設置各類別業務請求對應的并行處理線程上限數量，各類別業務請求對應的并行處理線程上限數量的總和等于服務器能夠用于執行業務請求并行處理的線程的總數；

所述排隊處理模塊用于接收業務請求并進行類別識別，對不同類別業務請求分別排隊，形成各類別業務請求相應的請求隊列；

所述數個線程調用模塊分別用于對每一個類別的請求隊列中尚未處理的業務請求調用不超過相應類別業務請求對應的并行處理線程上限數量的線程進行多線程并行處理。