[發(fā)明專利]基于深度學(xué)習(xí)的線程池自適應(yīng)容量調(diào)整方法和裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202210311516.2
• 申請(qǐng)日: 2022-03-28
• 公開（公告）號(hào): CN114741186A
• 公開（公告）日: 2022-07-12
• 發(fā)明（設(shè)計(jì)）人: 余丹;蘭雨晴;唐霆岳;邢智渙;王丹星;黃永琢
• 申請(qǐng)（專利權(quán)）人: 慧之安信息技術(shù)股份有限公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;G06N3/04;G06N3/08
• 代理公司: 北京廣技專利代理事務(wù)所(特殊普通合伙) 11842
• 代理人: 張國(guó)香

本申請(qǐng)?zhí)峁┝艘环N基于深度學(xué)習(xí)的線程池自適應(yīng)容量調(diào)整方法和裝置，涉及計(jì)算機(jī)技術(shù)領(lǐng)域。該方法獲取線程池的當(dāng)前運(yùn)行數(shù)據(jù)；將線程池的當(dāng)前運(yùn)行數(shù)據(jù)輸入預(yù)先訓(xùn)練的線程池容量配置模型，利用線程池容量配置模型對(duì)線程池的當(dāng)前運(yùn)行數(shù)據(jù)對(duì)應(yīng)的線程配置量進(jìn)行預(yù)測(cè)，得到線程池的當(dāng)前線程配置量；根據(jù)線程池的當(dāng)前線程配置量調(diào)整線程池的當(dāng)前線程數(shù)量。可以看到，本申請(qǐng)實(shí)施例通過(guò)深度學(xué)習(xí)的方法，設(shè)置一隨機(jī)或經(jīng)驗(yàn)估算的線程池大小初始值后，將一段歷史時(shí)間內(nèi)的線程池設(shè)置情況與實(shí)際使用狀況作為輸入，可以構(gòu)建模型實(shí)時(shí)預(yù)測(cè)未來(lái)的使用情況，從而動(dòng)態(tài)調(diào)整線程池大小，能夠?qū)崿F(xiàn)一種無(wú)需人工監(jiān)控與經(jīng)驗(yàn)、自適應(yīng)的線程池容量調(diào)整方法，節(jié)省了資源。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種基于深度學(xué)習(xí)的線程池自適應(yīng)容量調(diào)整方法和裝置。

背景技術(shù)

線程池是一種多線程處理形式，處理過(guò)程中將任務(wù)添加到隊(duì)列，然后在創(chuàng)建線程后自動(dòng)啟動(dòng)這些任務(wù)。線程池線程可以是后臺(tái)線程，每個(gè)線程都使用默認(rèn)的堆棧大小，以默認(rèn)的優(yōu)先級(jí)運(yùn)行，并處于多線程單元中。如果某個(gè)線程在托管代碼中空閑，如正在等待某個(gè)事件，則線程池將插入另一個(gè)輔助線程來(lái)使所有處理器保持繁忙。如果所有線程池線程都始終保持繁忙，但隊(duì)列中包含掛起的工作，則線程池將在一段時(shí)間后創(chuàng)建另一個(gè)輔助線程但線程的數(shù)目永遠(yuǎn)不會(huì)超過(guò)最大值。超過(guò)最大值的線程可以排隊(duì)，但它們要等到其他線程完成后才啟動(dòng)。

線程池技術(shù)可以用于提升計(jì)算機(jī)系統(tǒng)的響應(yīng)速度、穩(wěn)健性和整體性能，通過(guò)提供若干個(gè)固定線程，輪流為大量的任務(wù)服務(wù)，當(dāng)一個(gè)線程完成任務(wù)時(shí)，并不馬上銷毀，而是接手另一個(gè)任務(wù)，從而減少創(chuàng)建和銷毀線程的資源消耗，可以最大程度的利用系統(tǒng)資源。目前對(duì)于線程池容量的處理方式通常是設(shè)置一最小值和最大值，線程池實(shí)際保有的線程數(shù)在此區(qū)間內(nèi)自動(dòng)擴(kuò)充。然而，實(shí)際程序的執(zhí)行情況和線程需求可能非常復(fù)雜，一次性設(shè)定的線程池最小值和最大值可能并不合適。若線程池的容量太小，導(dǎo)致所有的任務(wù)都在排隊(duì)等待進(jìn)入線程池，造成堵塞；而線程池的容量太大，則會(huì)造成系統(tǒng)資源的浪費(fèi)，因此需要不斷根據(jù)實(shí)際情況觀測(cè)調(diào)整，對(duì)于缺乏經(jīng)驗(yàn)的編碼者來(lái)說(shuō)此過(guò)程可能更加困難。

綜上所述，如何有效地對(duì)線程池進(jìn)行容量調(diào)整成為當(dāng)前亟需解決的技術(shù)問(wèn)題。

發(fā)明內(nèi)容

鑒于上述問(wèn)題，提出了本申請(qǐng)以便提供一種克服上述問(wèn)題或者至少部分地解決上述問(wèn)題的基于深度學(xué)習(xí)的線程池自適應(yīng)容量調(diào)整方法和裝置。所述技術(shù)方案如下：

第一方面，提供了一種基于深度學(xué)習(xí)的線程池自適應(yīng)容量調(diào)整方法，包括以下步驟：

獲取線程池的當(dāng)前運(yùn)行數(shù)據(jù)；

將所述線程池的當(dāng)前運(yùn)行數(shù)據(jù)輸入預(yù)先訓(xùn)練的線程池容量配置模型，利用所述線程池容量配置模型對(duì)所述線程池的當(dāng)前運(yùn)行數(shù)據(jù)對(duì)應(yīng)的線程配置量進(jìn)行預(yù)測(cè)，得到線程池的當(dāng)前線程配置量；

根據(jù)所述線程池的當(dāng)前線程配置量調(diào)整所述線程池的當(dāng)前線程數(shù)量。

在一種可能的實(shí)現(xiàn)方式中，通過(guò)以下步驟訓(xùn)練線程池容量配置模型：

構(gòu)建初始的線程池容量配置模型；

收集指定歷史時(shí)間內(nèi)的線程池容量設(shè)置情況和線程池實(shí)際運(yùn)行數(shù)據(jù)；

將指定歷史時(shí)間內(nèi)的線程池容量設(shè)置情況和線程池實(shí)際運(yùn)行數(shù)據(jù)輸入所述初始的線程池容量配置模型，對(duì)所述初始的線程池容量配置模型進(jìn)行訓(xùn)練，得到訓(xùn)練的線程池容量配置模型。

在一種可能的實(shí)現(xiàn)方式中，所述線程池的當(dāng)前運(yùn)行數(shù)據(jù)包括線程池能夠處理的業(yè)務(wù)量、線程池的業(yè)務(wù)訪問(wèn)量以及線程池的業(yè)務(wù)處理時(shí)長(zhǎng)中的一種或多種。

在一種可能的實(shí)現(xiàn)方式中，根據(jù)所述線程池的當(dāng)前線程配置量調(diào)整所述線程池的當(dāng)前線程數(shù)量，包括：

計(jì)算所述線程池的當(dāng)前線程配置量與當(dāng)前時(shí)刻的線程池最大值的差值；