[發(fā)明專利]一種基于深度學(xué)習(xí)和XGBoost算法的博文關(guān)于災(zāi)難信息重要性加權(quán)分類方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201911387714.1
• 申請(qǐng)日: 2019-12-27
• 公開（公告）號(hào): CN111079031B
• 公開（公告）日: 2023-09-12
• 發(fā)明（設(shè)計(jì)）人: 王鶴松;楊震
• 申請(qǐng)（專利權(quán)）人: 北京工業(yè)大學(xué)
• 主分類號(hào): G06F16/9536
• 分類號(hào): G06F16/9536;G06F16/35
• 代理公司: 北京思海天達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11203
• 代理人: 吳蔭芳

1.一種基于深度學(xué)習(xí)和XGBoost算法的博文關(guān)于災(zāi)難信息重要性加權(quán)分類方法，其特征在于：

本方法的實(shí)施過程如下，

步驟(1)接收社交媒體文本數(shù)據(jù)并預(yù)處理；

步驟(2)構(gòu)建災(zāi)難單詞預(yù)訓(xùn)練詞向量表，用于社交媒體文本數(shù)據(jù)轉(zhuǎn)化為詞向量；

步驟(3)通過步驟(2)更新后的詞向量表，把經(jīng)過步驟(1)預(yù)處理后的測(cè)試文本數(shù)據(jù)轉(zhuǎn)化成維度為d的詞向量，并利用XGBoost算法對(duì)社交媒體文本數(shù)據(jù)進(jìn)行信息類別分類和警報(bào)性類別分類；

步驟(4)對(duì)社交媒體文本數(shù)據(jù)的信息分類結(jié)果和警報(bào)性分類結(jié)果進(jìn)行加權(quán)確定所含文本信息的重要性；

具體的，步驟(3)中所述用XGBoost算法進(jìn)行信息分類和警報(bào)性分類的模型如下：

其中K為樹的總個(gè)數(shù)，f_k表示第k顆樹，x_i代表通過更新后的詞向量表轉(zhuǎn)化為詞向量的社交媒體文本數(shù)據(jù)，表示對(duì)x_i的分類結(jié)果，在警報(bào)性分類上，是單值，在信息分類上，是多值；

所述信息類別分類過程中，訓(xùn)練集是由TREC官方提供的預(yù)處理后已經(jīng)標(biāo)記好的有信息類別標(biāo)簽的文本數(shù)據(jù)，推文在信息類別上同時(shí)包含多個(gè)信息類，規(guī)定推文所包含的信息類個(gè)數(shù)不大于5，利用訓(xùn)練得到的信息分類模型對(duì)后續(xù)的無標(biāo)簽的數(shù)據(jù)進(jìn)行信息分類；

所述警報(bào)性類別分類過程中，訓(xùn)練集是由TREC官方提供的預(yù)處理后已經(jīng)標(biāo)記好的有警報(bào)性類別標(biāo)簽的文本數(shù)據(jù)，社交媒體上的文本數(shù)據(jù)在警報(bào)性類別上只能包含一個(gè)類別，利用訓(xùn)練得到的警報(bào)性分類模型對(duì)后續(xù)無標(biāo)簽的數(shù)據(jù)進(jìn)行警報(bào)性分類；步驟(4)的實(shí)施過程具體如下，

對(duì)信息類別和警報(bào)性類別分別創(chuàng)建類別分?jǐn)?shù)表，類別分?jǐn)?shù)表是根據(jù)每個(gè)信息類別和警報(bào)性類別的重要性自定義的分?jǐn)?shù)表，根據(jù)推文被XGBoost分類完成后確定的信息類別和警報(bào)性類別對(duì)應(yīng)表內(nèi)的分?jǐn)?shù)進(jìn)行加權(quán)求和，并將分?jǐn)?shù)標(biāo)準(zhǔn)化在[0,1]之間，加權(quán)公式如下：

其中x表示一條推文，f(x)表示推文結(jié)合信息分類和警報(bào)性分類的加權(quán)分?jǐn)?shù)，分?jǐn)?shù)在[0,1]之間，O(x)表示推文被XGBoost模型分類出來的信息類別，|O(x)|表示推文被分類完成后的信息類別的個(gè)數(shù)，Oⁱ(x)表示推文信息類別中第i個(gè)類別對(duì)應(yīng)信息類別分?jǐn)?shù)表的分?jǐn)?shù)，G(x)表示推文警報(bào)性類別對(duì)應(yīng)警報(bào)性類別分?jǐn)?shù)表的分?jǐn)?shù)，A表示信息類別分?jǐn)?shù)表類別的平均分?jǐn)?shù)，B表示警報(bào)性類別分?jǐn)?shù)表類別的平均分?jǐn)?shù)。

2.根據(jù)權(quán)利要求1所述的一種基于深度學(xué)習(xí)和XGBoost算法的博文關(guān)于災(zāi)難信息重要性加權(quán)分類方法，其特征在于：步驟(1)所述預(yù)處理包括：

步驟(1.1)文本預(yù)處理

對(duì)社交媒體文本數(shù)據(jù)進(jìn)行分詞，去除停用，英文大寫轉(zhuǎn)小寫，中文繁體轉(zhuǎn)簡(jiǎn)體；

步驟(1.2)消除數(shù)據(jù)中的冗余推文，具體如下

計(jì)算推文之間的相似性定義如下公式所示；

其中T₁,T₂表示兩條推文，length(∩(T₁,T₂))表示兩條推文相同部分的字符數(shù),若是中文數(shù)據(jù)則是相同部分的字?jǐn)?shù)；length(∪(T₁,T₂))表示兩條推文的字符或字的總數(shù)；當(dāng)兩條推文的相似性大于等于閾值θ時(shí)，刪除T₁和T₂之間字符或字總數(shù)較少的推文。

3.根據(jù)權(quán)利要求1所述的一種基于深度學(xué)習(xí)和XGBoost算法的博文關(guān)于災(zāi)難信息重要性加權(quán)分類方法，其特征在于：步驟(2)的實(shí)施過程如下，

步驟(2.1)詞向量的初始化

選擇網(wǎng)絡(luò)上基于自然災(zāi)害事件訓(xùn)練好的災(zāi)難單詞預(yù)訓(xùn)練詞向量表,對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行轉(zhuǎn)化，轉(zhuǎn)化為d維向量；

步驟(2.2)更新詞向量表

利用訓(xùn)練數(shù)據(jù)對(duì)LSTM模型進(jìn)行訓(xùn)練，更新災(zāi)難單詞預(yù)訓(xùn)練詞向量表，訓(xùn)練完成后提取更新后的災(zāi)難單詞預(yù)訓(xùn)練詞向量表用于預(yù)處理后的社交媒體文本數(shù)據(jù)轉(zhuǎn)化為詞向量，作為后續(xù)分類模型的輸入。