[發(fā)明專利]一種基于PCA和XGBoost融合的業(yè)務(wù)類型識別方法

在審

• 申請?zhí)枺?/td>: 202111202293.8
• 申請日: 2021-10-15
• 公開（公告）號: CN114048795A
• 公開（公告）日: 2022-02-15
• 發(fā)明（設(shè)計）人: 劉旭;胡俊華;朱曉榮;楊龍祥;朱洪波;江婷
• 申請（專利權(quán)）人: 南京郵電大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 南京經(jīng)緯專利商標代理有限公司 32200
• 代理人: 朱楨榮

1.一種基于PCA和XGBoost融合的業(yè)務(wù)類型識別方法，其特征在于，包括以下步驟：

步驟S1、采集帶有標簽的網(wǎng)絡(luò)流量數(shù)據(jù)集，網(wǎng)絡(luò)流量數(shù)據(jù)集的業(yè)務(wù)類型包括HTTP、NTP、DNS、QQ、微信、視頻和郵件；

步驟S2、對步驟S1中的網(wǎng)絡(luò)流量數(shù)據(jù)集進行數(shù)據(jù)清洗和特征提取，從而得到含有多維特征的網(wǎng)絡(luò)流量數(shù)據(jù)集；

步驟S3、利用主成分分析特征降維的方法將步驟S2中的多維特征簡化成低維特征，得到帶標簽的低維數(shù)據(jù)集；

步驟S4、從步驟S3中帶標簽的低維數(shù)據(jù)集中選出影響衡量業(yè)務(wù)類型的相關(guān)性高的關(guān)鍵性能指標，該關(guān)鍵性能指標組成帶標簽的數(shù)據(jù)集，該數(shù)據(jù)集分為訓(xùn)練集和測試集，將訓(xùn)練集輸入到極限梯度提升XGBoost分類模型進行訓(xùn)練，并采用改進的參數(shù)調(diào)優(yōu)的方法對該XGBoost分類模型的學(xué)習(xí)率γ和正則化參數(shù)λ進行調(diào)優(yōu)，得到最適合該網(wǎng)絡(luò)流量數(shù)據(jù)集的學(xué)習(xí)率γ和正則化參數(shù)λ，并對參數(shù)調(diào)優(yōu)后的XGBoost分類模型進行測試，得到訓(xùn)練好的極限梯度提升XGBoost分類模型；

學(xué)習(xí)率γ和正則化參數(shù)λ進行調(diào)優(yōu)的方法具體如下：

步驟S4.1、極限梯度提升XGBoost分類模型為：

其中，T指葉節(jié)點的數(shù)量，obj指目標函數(shù)，G_j指目標函數(shù)在第j個葉節(jié)點泰勒展開式中的一階導(dǎo)，H_j指目標函數(shù)在第j個葉節(jié)點泰勒展開的二階導(dǎo)；

步驟S4.2、對步驟S4.1中的學(xué)習(xí)率γ和正則化參數(shù)λ進行參數(shù)調(diào)優(yōu)：

步驟S4.2.1、設(shè)置學(xué)習(xí)率γ和正則化參數(shù)λ的各自的搜索空間Φ及搜索步長μ，設(shè)置如下所示：

γ＝(γ_start,γ_end,μ_γ)

λ＝(λ_start,λ_end,μ_λ)

其中，γ_start和γ_end分別為學(xué)習(xí)率γ的搜索空間Φ_γ的上邊界和下邊界，μ_γ為學(xué)習(xí)率γ的搜索步長；λ_start和λ_end分別為正則化參數(shù)λ的搜索空間Θ_λ上邊界和下邊界，μ_λ為正則化參數(shù)λ的搜索步長；

步驟S4.2.2、根據(jù)設(shè)置的搜索空間和搜索步長，生成二維搜索參數(shù)組矩陣H_S，定義如下:

其中，p是整數(shù)，q是整數(shù)，

步驟S4.2.3、針對步驟S4.2.2中的H_S中每個參數(shù)組，評估XGBoost分類模型在每個參數(shù)組的平均分類精度，選出評估出的平均分類精度最高的參數(shù)組，若平均分類精度最高的參數(shù)組為1個則該參數(shù)組為選取的參數(shù)組，若評估平均分類精度最高的參數(shù)組有多個，則選取這多個參數(shù)組中λ_start+qμ_λ最小的一個參數(shù)組；

步驟S4.2.4、步驟S4.2.3選取的參數(shù)組中的λ_start+qμ_λ、γ_start+pμ_γ即為XGBoost分類模型對應(yīng)步驟S3中帶標簽的低維數(shù)據(jù)集的最優(yōu)的學(xué)習(xí)率γ和正則化參數(shù)λ；

步驟S5、將待測的網(wǎng)絡(luò)流量數(shù)據(jù)集輸入到步驟S4中的極限梯度提升XGBoost分類模型，得到業(yè)務(wù)類型分類結(jié)果。

2.根據(jù)權(quán)利要求1所述的一種基于PCA和XGBoost融合的業(yè)務(wù)類型識別方法，其特征在于，步驟S2中的多維特征F，具體表示方式為：

F＝[f₁,f₂,f₃…f_d]

F含有d個特征的向量，f_i表示第i個關(guān)鍵特征指標，d≥i≥1，對f_i的最大值分別進行歸一化處理，處理的具體方式為：

max(f_i)是第i個關(guān)鍵特征指標出現(xiàn)的最大值，是經(jīng)過歸一化處理后的第i個關(guān)鍵特征指標。