[發明專利]基于文本和用戶表示學習的文本立場檢測方法

有效

• 申請號: 202110233476.X
• 申請日: 2021-03-03
• 公開（公告）號: CN112949318B
• 公開（公告）日: 2022-03-25
• 發明（設計）人: 彭愈翔;羅緒成
• 申請（專利權）人: 電子科技大學
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06N3/04;G06N3/08
• 代理公司: 成都行之專利代理事務所(普通合伙) 51220
• 代理人: 溫利平

本發明公開了一種基于文本和用戶表示學習的文本立場檢測方法，從社交媒體平臺上獲取文本數據集，生成用戶社交關系圖并獲取對應的拉普拉斯矩陣，并確定每個文本的立場標簽向量，采用預訓練的BERT模型獲取每個文本的文本向量，構建并訓練立場檢測模型，當需要對用戶文本進行立場檢測時，生成用戶社交關系圖并獲取對應的拉普拉斯矩陣，將文本向量輸入立場檢測模型得到立場檢測結果。本發明分別獲取文本和用戶兩個模態特征并進行跨模態融合，從而實現準確的文本立場檢測。

技術領域

本發明屬于自然語言處理技術領域，更為具體地講，涉及一種基于文本和用戶表示學習的文本立場檢測方法。

背景技術

立場檢測是自然語言處理(Natural Language Processing,NLP)領域中的前沿研究分支之一，其目的是從文本信息中自動檢測出人對個體、事物、事件所表現出來的看法或者態度，如“支持、反對或中立”。

目前，現有的立場檢測方法主要采用的還是以CNN(Convolutional NeuralNetworks，卷積神經網絡)、RNN(Recurrent Neural Network，循環神經網絡)模型為主的經典模型。現有的立場檢測方法大部分只使用了文本維度的信息進行立場檢測，而沒有將與立場高度相關的用戶特征利用起來。用戶本身的屬性、用戶之間的社交關系，都會影響到用戶發表言論的立場。其次，CNN、RNN模型在NLP任務上都有其局限性，比如CNN只能看到局部領域，RNN由于其結構的原因，越往前的輸入隨著距離的增加，信息就衰減得越多。近年來隨著預訓練語言模型BERT的提出，NLP各個子任務的性能都得到了極大的提升。通過BERT模型能獲得更好的文本維度的向量表示。最后，由于用戶與文本的信息維度不同，可以視為不同的模態。不同模態擁有不同的語義，而簡單的拼接，無法實現模態間語義的有效混合。

發明內容

本發明的目的在于克服現有技術的不足，提供一種基于文本和用戶表示學習的文本立場檢測方法，分別獲取文本和用戶兩個模態特征并進行跨模態融合，從而實現準確的文本立場檢測。

為了實現上述發明目的，本發明基于文本和用戶表示學習的文本立場檢測方法包括以下步驟：

S1：確定需要進行文本立場檢測的社交媒體平臺，從該社交媒體平臺上收集需要進行文本立場檢測的話題的文本數據集，文本數據集包括若干與該話題相關的文本，以及發布這些文本的用戶之間的關注列表與被關注列表；

根據用戶之間的關注列表與被關注列表，生成一個有向無環的用戶社交關系圖G＝V,E，其中V表示所有用戶ID集合，E表示用戶之間有向邊的集合，如果用戶i關注了用戶j，則存在一條從用戶i到用戶j的有向邊，i,j∈V；然后構建用戶社交關系圖G＝V,E的鄰接矩陣A和度矩陣D；對鄰接矩陣A與度矩陣D進行拉普拉斯矩陣變換得到拉普拉斯矩陣L^rw；

將用戶在文本中的立場規范為反對、中立、贊成三個取值，并以one-hot的形式編碼得到3維立場向量，根據每個文本的立場確定其對應的立場向量作為立場標簽向量；

S2：將文本數據集中的文本統一為預設長度W：如果文本長度大于W，則刪除超出部分文本，如果文本長度小于W，則填充預設字符；將處理得到的各個文本分別輸入預訓練的BERT模型，將其輸出的d維向量作為文本向量v_t，其中t表示文本，t∈Φ，Φ表示文本數據集中文本集合，d的大小根據實際需要設置；

S3：構建立場檢測模型，包括GCN網絡、交互層、決策層、全連接層，其中：

GCN網絡用于生成用戶向量，具體方法為：將用戶社交關系圖的拉普拉斯矩陣作為GCN網絡的鄰接矩陣，GCN網絡對用戶初始向量矩陣進行處理，得到的輸出矩陣作為用戶向量矩陣，每行向量作為對應用戶的用戶向量；