[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)模型生成方法、文本情感分析方法、及相關(guān)裝置

在審

• 申請?zhí)枺?/td>: 201710917060.3
• 申請日: 2017-09-30
• 公開（公告）號: CN110019787A
• 公開（公告）日: 2019-07-16
• 發(fā)明（設(shè)計）人: 王天祎
• 申請（專利權(quán)）人: 北京國雙科技有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F17/27;G06K9/62;G06N3/04
• 代理公司: 北京集佳知識產(chǎn)權(quán)代理有限公司 11227
• 代理人: 王寶筠

1.一種神經(jīng)網(wǎng)絡(luò)模型生成方法，其特征在于，所述方法包括：

利用至少兩種詞向量訓(xùn)練模型，獲得針對同一切詞的至少兩種詞向量表達(dá)；

獲取用于訓(xùn)練的文本語料，對所述文本語料中的每一個句子進(jìn)行切詞，獲得針對每一個句子的切詞序列，所述文本語料中的每一個句子帶有情感類別的標(biāo)簽；

對于任意的一個切詞序列，獲取所述切詞序列中各個切詞的至少兩種詞向量表達(dá)；

獲取所有切詞序列中各個切詞的至少兩種詞向量表達(dá)后，將所有的切詞序列作為待訓(xùn)練樣本集；

對所述待訓(xùn)練樣本集采用卷積神經(jīng)網(wǎng)絡(luò)CNN算法進(jìn)行訓(xùn)練，得到神經(jīng)網(wǎng)絡(luò)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述至少兩種詞向量訓(xùn)練模型包括Word2vec詞向量訓(xùn)練模型和Glove詞向量訓(xùn)練模型；所述利用至少兩種詞向量訓(xùn)練模型，獲得針對同一切詞的至少兩種詞向量表達(dá)包括：

對語料庫進(jìn)行預(yù)處理；

對于預(yù)處理后的語料庫，利用所述Word2vec詞向量訓(xùn)練模型進(jìn)行訓(xùn)練，得到針對所述語料庫中每一個切詞的第一詞向量表達(dá)；

對于預(yù)處理后的語料庫，利用所述Glove詞向量訓(xùn)練模型進(jìn)行訓(xùn)練，得到針對所述語料庫中每一個切詞的第二詞向量表達(dá)。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述方法還包括：

對于所述語料庫中的低頻長尾詞，利用所述Word2vec詞向量訓(xùn)練模型訓(xùn)練時，將所述低頻長尾詞統(tǒng)一表示為第一預(yù)設(shè)詞向量表達(dá)，利用所述Glove詞向量訓(xùn)練模型訓(xùn)練時，將所述低頻長尾詞統(tǒng)一表示為第二預(yù)設(shè)詞向量表達(dá)。

4.一種文本情感分析方法，其特征在于，所述方法包括：

確定待處理文本，對所述待處理文本中的每一個句子進(jìn)行切詞，獲得針對每一個句子的切詞序列；

獲取每一個切詞序列中各個切詞的至少兩種詞向量表達(dá)，得到待測樣本；

將所述待測樣本作為神經(jīng)網(wǎng)絡(luò)模型的輸入，依據(jù)所述神經(jīng)網(wǎng)絡(luò)模型的輸出結(jié)果，確定所述待測樣本的情感類別；其中所述神經(jīng)網(wǎng)絡(luò)模型為采用如上權(quán)利要求1-3任一項所述的神經(jīng)網(wǎng)絡(luò)模型生成方法得到。

5.一種神經(jīng)網(wǎng)絡(luò)模型生成裝置，其特征在于，所述裝置包括：

第一獲取單元，用于利用至少兩種詞向量訓(xùn)練模型，獲得針對同一切詞的至少兩種詞向量表達(dá)；

文本語料獲取單元，用于獲取用于訓(xùn)練的文本語料；

文本語料處理單元，用于對所述文本語料中的每一個句子進(jìn)行切詞，獲得針對每一個句子的切詞序列，所述文本語料中的每一個句子帶有情感類別的標(biāo)簽；

第二獲取單元，用于對于任意的一個切詞序列，獲取所述切詞序列中各個切詞的至少兩種詞向量表達(dá)；

樣本集確定單元，用于在所述第二獲取單元獲取所有切詞序列中各個切詞的至少兩種詞向量表達(dá)后，將所有的切詞序列作為待訓(xùn)練樣本集；

訓(xùn)練單元，用于對所述待訓(xùn)練樣本集采用卷積神經(jīng)網(wǎng)絡(luò)CNN算法進(jìn)行訓(xùn)練，得到神經(jīng)網(wǎng)絡(luò)模型。

6.根據(jù)權(quán)利要求5所述的裝置，其特征在于，所述至少兩種詞向量訓(xùn)練模型包括Word2vec詞向量訓(xùn)練模型和Glove詞向量訓(xùn)練模型；所述第一獲取單元包括：

預(yù)處理子單元，用于對語料庫進(jìn)行預(yù)處理；

第一訓(xùn)練子單元，用于對于預(yù)處理后的語料庫，利用所述Word2vec詞向量訓(xùn)練模型進(jìn)行訓(xùn)練，得到針對所述語料庫中每一個切詞的第一詞向量表達(dá)；

第二訓(xùn)練子單元，用于對于預(yù)處理后的語料庫，利用所述Glove詞向量訓(xùn)練模型進(jìn)行訓(xùn)練，得到針對所述語料庫中每一個切詞的第二詞向量表達(dá)。

7.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述裝置還包括：

低頻長尾詞處理單元，用于對于所述語料庫中的低頻長尾詞，利用所述Word2vec詞向量訓(xùn)練模型訓(xùn)練時，將所述低頻長尾詞統(tǒng)一表示為第一預(yù)設(shè)詞向量表達(dá)，利用所述Glove詞向量訓(xùn)練模型訓(xùn)練時，將所述低頻長尾詞統(tǒng)一表示為第二預(yù)設(shè)詞向量表達(dá)。