[發明專利]批量請求下發的優先排隊處理方法、裝置、服務器及介質

有效

• 申請號: 202210958383.8
• 申請日: 2022-08-11
• 公開（公告）號: CN115033393B
• 公開（公告）日: 2023-01-17
• 發明（設計）人: 喬波波;董俊明
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 丁曼曼

本申請公開了一種批量請求下發的優先排隊處理方法、裝置、服務器及介質，涉及服務器領域。包括：獲取各待下發的請求以及各待下發的請求下發的目標線程池；根據預先設定的各待下發的請求的權重值將各待下發的請求進行排序；按照預設規則將各待下發的請求下發至目標線程池，以便目標線程池按照優先排序隊列處理各待下發的請求。該方法中根據權重值對各請求進行優先排序，配合利用線程池，根據不同線程池的執行任務特性，采用不同的下發邏輯將請求提交線程池以保證請求按照既定的優先級順序高效執行，保證高優先級的任務可以被優先執行，提高系統任務處理能力以及用戶的使用體驗效果。

技術領域

本申請涉及服務器領域，特別是涉及一種批量請求下發的優先排隊處理方法、裝置、服務器及介質。

背景技術

目前大規模高并發的應用場景越來越多，雖然任務處理的速度在不斷提升，但是任務的請求來源也在驟增，包括界面下發、大量的外部調用等都在不斷加大請求的數量，而任務處理速度的影響因素又比較多，如：中央處理器（Central Processing Unit，CPU）、網絡、內存等等，當這些影響因素一時無法解決，又同時出現高并發批量請求時，即使采用線程池的方式也難免會有任務處于等待狀態。而批量請求的任務中有重要和一般之分，請求的數據量也有大小之分，請求的來源也有內外之分。處于等待中的任務和優先處理的任務當前還是隨機排序處理的，這時候如果優先處理的是一般的、不緊急的業務則會嚴重影響系統的能力以及用戶的使用效果。

由此可見，提供一種批量請求下發的優先排隊處理方法是本領域技術人員亟需解決的技術問題。

發明內容

本申請的目的是提供一種批量請求下發的優先排隊處理方法、裝置、服務器及介質，用于按照預定的優先排序執行各請求，提高系統任務處理能力以及用戶的使用體驗效果。

為解決上述技術問題，本申請提供一種批量請求下發的優先排隊處理方法，包括：

獲取各待下發的請求以及各所述待下發的請求下發的目標線程池；

根據預先設定的各所述待下發的請求的權重值將各所述待下發的請求進行排序，以便形成優先排序隊列；

按照預設規則將各所述待下發的請求下發至所述目標線程池，以便所述目標線程池按照所述優先排序隊列處理各所述待下發的請求；其中，所述預設規則根據所述目標線程池的處理請求的方式進行確定。

優選地，各所述待下發的請求的所述權重值包括各所述待下發的請求的屬性的權重值以及屬性值的權重值。

優選地，所述根據預先設定的各所述待下發的請求的權重值將各所述待下發的請求進行排序包括：

根據預先設定的各所述待下發的請求的所述屬性的權重值以及所述屬性值的權重值確定各所述待下發的請求的綜合評分值；

將各所述待下發的請求按照綜合評分值從大到小的順序排列。

優選地，各所述待下發的請求的所述權重值至少是根據各所述待下發的請求的使用頻率確定；所述權重值與所述使用頻率呈正相關。

優選地，所述目標線程池為ThreadPoolExecutor線程池；所述預設規則至少根據所述ThreadPoolExecutor線程池的核心線程的數量、所述待下發的請求的數量、所述ThreadPoolExecutor線程池的緩存隊列的數量、所述ThreadPoolExecutor線程池的最大線程的數量確定。

優選地，所述按照預設規則將各所述待下發的請求下發至所述目標線程池包括：

獲取所述ThreadPoolExecutor線程池的核心線程的數量；

從所述優先排序隊列的第一個所述待下發的請求開始，將第一預設數量的所述待下發的請求下發至核心線程；其中，所述第一預設數量等于所述核心線程的數量；