[發(fā)明專利]基于BERT的媒體信息觀點(diǎn)抽取方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010060445.4
• 申請日: 2020-01-19
• 公開（公告）號(hào): CN113139116A
• 公開（公告）日: 2021-07-20
• 發(fā)明（設(shè)計(jì)）人: 孔慶超;王婧宜;王宇琪;苑霸;羅引;張西娜;彭鑫;王磊
• 申請（專利權(quán)）人: 北京中科聞歌科技股份有限公司
• 主分類號(hào): G06F16/9535
• 分類號(hào): G06F16/9535;G06F16/28
• 代理公司: 北京華夏泰和知識(shí)產(chǎn)權(quán)代理有限公司 11662
• 代理人: 張麗穎

本發(fā)明公開了一種基于BERT的媒體信息觀點(diǎn)抽取方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)。該方法包括：獲取觀點(diǎn)待抽取的語料信息；利用預(yù)設(shè)的命名實(shí)體識(shí)別算法，識(shí)別語料信息中的命名實(shí)體；將命名實(shí)體和語料信息輸入預(yù)先訓(xùn)練的觀點(diǎn)抽取模型中，并獲取觀點(diǎn)抽取模型輸出的命名實(shí)體對(duì)應(yīng)的觀點(diǎn)信息；其中，觀點(diǎn)抽取模型根據(jù)命名實(shí)體和語料信息，生成命名實(shí)體對(duì)應(yīng)的字符序列；觀點(diǎn)抽取模型的BERT模型根據(jù)命名實(shí)體對(duì)應(yīng)的字符序列，生成命名實(shí)體對(duì)應(yīng)的字符向量序列；觀點(diǎn)抽取模型的softmax層根據(jù)命名實(shí)體對(duì)應(yīng)的字符向量序列以及訓(xùn)練觀點(diǎn)抽取模型時(shí)得到的片段開始向量和片段結(jié)束向量，確定命名實(shí)體對(duì)應(yīng)的觀點(diǎn)信息。本發(fā)明可以減輕人工抽取觀點(diǎn)信息的工作量，提升觀點(diǎn)信息抽取的準(zhǔn)確性。

技術(shù)領(lǐng)域

本發(fā)明涉及觀點(diǎn)抽取技術(shù)領(lǐng)域，尤其涉及一種基于BERT(Bidirectional EncoderRepresentations from Transformer)的媒體信息觀點(diǎn)抽取方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)。

背景技術(shù)

在新媒體時(shí)代下，網(wǎng)絡(luò)媒體、移動(dòng)端媒體等新媒體成為了新聞傳播的重要途徑。通過分析包含一定主觀色彩的新聞報(bào)道，可以了解媒體對(duì)特定事件的觀點(diǎn)和立場，進(jìn)而把握發(fā)展態(tài)勢，輔助決策者進(jìn)行輿情研判。但是由于新聞報(bào)道數(shù)量巨大，而且報(bào)道內(nèi)容重復(fù)的較多，僅靠人工的方法很難應(yīng)對(duì)海量信息的整理和總結(jié)，因此，觀點(diǎn)抽取技術(shù)應(yīng)運(yùn)而生。

觀點(diǎn)抽取是指從一段文本中抽取表達(dá)個(gè)人觀點(diǎn)、感受或信念的文本內(nèi)容。抽取的觀點(diǎn)信息至少包括：觀點(diǎn)持有者、主題和陳述。具體來說，觀點(diǎn)持有者對(duì)某個(gè)主題發(fā)表了觀點(diǎn)，并且這個(gè)觀點(diǎn)可能包含一定的情感色彩。

目前，觀點(diǎn)抽取主要應(yīng)用于商品評(píng)論領(lǐng)域，觀點(diǎn)持有人是用戶，商家通過抽取用戶對(duì)產(chǎn)品的評(píng)論，篩選出實(shí)體及其描述詞，得到用戶對(duì)商品的觀點(diǎn)，例如“鞋子質(zhì)量好”、“操作簡單”。但是，應(yīng)用于商品評(píng)論領(lǐng)域中的觀點(diǎn)抽取方式并不適用于新聞?lì)I(lǐng)域。因?yàn)樵谏唐吩u(píng)論領(lǐng)域中，觀點(diǎn)抽取算法相對(duì)簡單，而且抽取的觀點(diǎn)簡短，僅抽取實(shí)體及其描述詞即可，而新聞報(bào)道的篇幅一般較長，信息量較大，僅用抽取實(shí)體及其描述詞不能體現(xiàn)完整的觀點(diǎn)信息，因此將現(xiàn)有的觀點(diǎn)抽取方法應(yīng)用在新聞?lì)I(lǐng)域時(shí)，抽取出的觀點(diǎn)信息準(zhǔn)確率較低。

發(fā)明內(nèi)容

本發(fā)明的主要目的在于提供一種基于BERT的媒體信息觀點(diǎn)抽取方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)，以解決利用現(xiàn)有的觀點(diǎn)抽取方法在抽取新聞?lì)I(lǐng)域的觀點(diǎn)信息時(shí)，準(zhǔn)確率低的問題。

針對(duì)上述技術(shù)問題，本發(fā)明是通過以下技術(shù)方案來解決的：

本發(fā)明提供了一種基于BERT的媒體信息觀點(diǎn)抽取方法，包括：獲取觀點(diǎn)待抽取的語料信息；利用預(yù)設(shè)的命名實(shí)體識(shí)別算法，識(shí)別所述語料信息中的命名實(shí)體；將所述命名實(shí)體和所述語料信息輸入預(yù)先訓(xùn)練的觀點(diǎn)抽取模型中，并獲取所述觀點(diǎn)抽取模型輸出的所述命名實(shí)體對(duì)應(yīng)的觀點(diǎn)信息；其中，所述觀點(diǎn)抽取模型根據(jù)所述命名實(shí)體和所述語料信息，生成所述命名實(shí)體對(duì)應(yīng)的字符序列；所述觀點(diǎn)抽取模型的BERT模型根據(jù)所述命名實(shí)體對(duì)應(yīng)的字符序列，生成所述命名實(shí)體對(duì)應(yīng)的字符向量序列；所述觀點(diǎn)抽取模型的softmax層根據(jù)所述命名實(shí)體對(duì)應(yīng)的字符向量序列以及訓(xùn)練所述觀點(diǎn)抽取模型時(shí)得到的片段開始向量和片段結(jié)束向量，確定所述命名實(shí)體對(duì)應(yīng)的觀點(diǎn)信息。

其中，所述將所述命名實(shí)體和所述語料信息輸入預(yù)先訓(xùn)練的觀點(diǎn)抽取模型中，包括：如果在所述語料信息中識(shí)別出一個(gè)命名實(shí)體，則將所述語料信息以及在所述語料信息中識(shí)別出的命名實(shí)體輸入所述觀點(diǎn)抽取模型；如果在所述語料信息中識(shí)別出多個(gè)命名實(shí)體，則計(jì)算所述語料信息和所述多個(gè)命名實(shí)體的笛卡爾乘積，得到多個(gè)組合；每個(gè)所述組合包括所述語料信息以及在所述語料信息中識(shí)別出的一個(gè)命名實(shí)體；將所述多個(gè)組合順序輸入所述觀點(diǎn)抽取模型；所述觀點(diǎn)抽取模型根據(jù)所述命名實(shí)體和所述語料信息，生成所述命名實(shí)體對(duì)應(yīng)的字符序列，包括：所述觀點(diǎn)抽取模型根據(jù)輸入的所述命名實(shí)體和所述語料信息，拼接所述命名實(shí)體的字符和所述語料信息的字符，得到所述命名實(shí)體對(duì)應(yīng)的字符序列。