[發(fā)明專利]一種基于組合-卷積神經(jīng)網(wǎng)絡(luò)的中文新聞長(zhǎng)文本分類方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110419616.2
• 申請(qǐng)日: 2021-04-19
• 公開(kāi)（公告）號(hào): CN112989052B
• 公開(kāi)（公告）日: 2022-03-08
• 發(fā)明（設(shè)計(jì)）人: 張昱;劉開(kāi)峰;高凱龍;王艷歌;蘇仡琳;李繼濤
• 申請(qǐng)（專利權(quán)）人: 北京建筑大學(xué)
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F16/31;G06F40/237;G06F40/284;G06N3/04;G06N3/08
• 代理公司: 蘇州攜智匯佳專利代理事務(wù)所(普通合伙) 32278
• 代理人: 錢(qián)偉

1.一種基于組合-卷積神經(jīng)網(wǎng)絡(luò)的中文新聞長(zhǎng)文本分類方法，其特征在于，包括如下步驟：

S1、獲取中文新聞文本數(shù)據(jù)集，并對(duì)所述數(shù)據(jù)集進(jìn)行預(yù)處理；

S2、基于預(yù)處理后的數(shù)據(jù)集構(gòu)建詞匯表，并通過(guò)所述詞匯表對(duì)預(yù)處理后的數(shù)據(jù)集中的中文新聞文本進(jìn)行標(biāo)準(zhǔn)化處理，得到中文新聞文本的文本特征表示；

S3、構(gòu)建組合-卷積神經(jīng)網(wǎng)絡(luò)模型，基于標(biāo)準(zhǔn)化處理后的數(shù)據(jù)集對(duì)所述組合-卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，并通過(guò)訓(xùn)練好的組合-卷積神經(jīng)網(wǎng)絡(luò)模型完成中文新聞文本分類；所述組合-卷積神經(jīng)網(wǎng)絡(luò)模型為六層模型，包括依次連接的Embedding層、卷積層、池化層、第一隱藏層、第二隱藏層、全連接層；其中，

所述Embedding層用于接收輸入的中文新聞文本數(shù)據(jù)，并采用word2vec將中文新聞文本中的詞匯映射成實(shí)數(shù)向量后嵌入所述中文新聞文本，獲得中文新聞文本的詞向量表示，作為所述卷積層的輸入，即對(duì)步驟S2標(biāo)準(zhǔn)化后的中文新聞文本進(jìn)行二次向量映射；

所述卷積層采用若干種不同大小的卷積核分別提取中文新聞文本的特征向量；

所述池化層用于對(duì)所述卷積層的輸出進(jìn)行最大池化操作；

所述第一隱藏層用于組合不同所述卷積層中不同大小的卷積核所提取的特征向量；

所述第二隱藏層用于非線性降維；

所述全連接層中添加有Dropout，所述全連接層還連接有Softmax層，通過(guò)所述Softmax層對(duì)輸入的中文新聞文本進(jìn)行分類預(yù)測(cè)；

所述S1中，對(duì)所述數(shù)據(jù)集進(jìn)行預(yù)處理包括：

S1.1、構(gòu)造數(shù)據(jù)索引：基于大數(shù)據(jù)可視化分析，設(shè)置中文新聞文本的序列長(zhǎng)度，基于中文新聞文本的序列長(zhǎng)度構(gòu)造數(shù)據(jù)索引；

S1.2、數(shù)據(jù)整合：將所述中文新聞文本轉(zhuǎn)變?yōu)槎M(jìn)制數(shù)據(jù)流；

所述S2中，基于預(yù)處理后的數(shù)據(jù)集構(gòu)建詞匯表包括：通過(guò)去除停用詞、詞頻統(tǒng)計(jì)制作用于中文新聞文本分類的詞匯表，所述詞匯表包括詞匯和各詞匯所對(duì)應(yīng)的索引號(hào)；

所述S2中，通過(guò)所述詞匯表對(duì)預(yù)處理后的數(shù)據(jù)集中的中文新聞文本進(jìn)行標(biāo)準(zhǔn)化處理的方法具體包括：中文新聞文本內(nèi)容的數(shù)據(jù)標(biāo)準(zhǔn)化、中文新聞文本標(biāo)簽的數(shù)據(jù)標(biāo)準(zhǔn)化；

所述中文新聞文本內(nèi)容的數(shù)據(jù)標(biāo)準(zhǔn)化的具體方法包括：首先，遍歷所述詞匯表的索引序列，得到中文新聞文本中相應(yīng)的詞匯以及各詞匯所對(duì)應(yīng)的索引號(hào)；

其次，采用字典方法將中文新聞文本中的各詞匯強(qiáng)制轉(zhuǎn)換為詞id，基于詞id對(duì)中文新聞文本中的詞匯進(jìn)行向量化表示，完成中文新聞文本內(nèi)容的數(shù)據(jù)標(biāo)準(zhǔn)化；具體為，使用列表推導(dǎo)式和lambda匿名函數(shù)實(shí)現(xiàn)詞匯和詞id的映射；將詞id嵌入到所述中文新聞文本，實(shí)現(xiàn)中文新聞文本的向量化表示；

所述中文新聞文本標(biāo)簽的數(shù)據(jù)標(biāo)準(zhǔn)化的具體方法包括：采用One Hot編碼方法，將各中文新聞文本對(duì)應(yīng)的標(biāo)簽索引設(shè)置為1，其余標(biāo)簽索引表示為全零向量，實(shí)現(xiàn)文本標(biāo)簽的向量化表示，完成中文新聞文本標(biāo)簽的數(shù)據(jù)標(biāo)準(zhǔn)化。

2.根據(jù)權(quán)利要求1所述的基于組合-卷積神經(jīng)網(wǎng)絡(luò)的中文新聞長(zhǎng) 文本分類方法，其特征在于，所述S3中，通過(guò)最小化損失函數(shù)對(duì)所述組合-卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，其中，所述損失函數(shù)采用多分類交叉熵。