[發(fā)明專利]基于BERT的媒體信息觀點抽取方法、裝置、設(shè)備和存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010060445.4
• 申請日: 2020-01-19
• 公開（公告）號: CN113139116A
• 公開（公告）日: 2021-07-20
• 發(fā)明（設(shè)計）人: 孔慶超;王婧宜;王宇琪;苑霸;羅引;張西娜;彭鑫;王磊
• 申請（專利權(quán)）人: 北京中科聞歌科技股份有限公司
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06F16/28
• 代理公司: 北京華夏泰和知識產(chǎn)權(quán)代理有限公司 11662
• 代理人: 張麗穎

1.一種基于BERT的媒體信息觀點抽取方法，其特征在于，包括：

獲取觀點待抽取的語料信息；

利用預設(shè)的命名實體識別算法，識別所述語料信息中的命名實體；

將所述命名實體和所述語料信息輸入預先訓練的觀點抽取模型中，并獲取所述觀點抽取模型輸出的所述命名實體對應(yīng)的觀點信息；其中，

所述觀點抽取模型根據(jù)所述命名實體和所述語料信息，生成所述命名實體對應(yīng)的字符序列；

所述觀點抽取模型的BERT模型根據(jù)所述命名實體對應(yīng)的字符序列，生成所述命名實體對應(yīng)的字符向量序列；

所述觀點抽取模型的softmax層根據(jù)所述命名實體對應(yīng)的字符向量序列以及訓練所述觀點抽取模型時得到的片段開始向量和片段結(jié)束向量，確定所述命名實體對應(yīng)的觀點信息。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，

所述將所述命名實體和所述語料信息輸入預先訓練的觀點抽取模型中，包括：

如果在所述語料信息中識別出一個命名實體，則將所述語料信息以及在所述語料信息中識別出的命名實體輸入所述觀點抽取模型；

如果在所述語料信息中識別出多個命名實體，則計算所述語料信息和所述多個命名實體的笛卡爾乘積，得到多個組合；每個所述組合包括所述語料信息以及在所述語料信息中識別出的一個命名實體；將所述多個組合順序輸入所述觀點抽取模型；

所述觀點抽取模型根據(jù)所述命名實體和所述語料信息，生成所述命名實體對應(yīng)的字符序列，包括：

所述觀點抽取模型根據(jù)輸入的所述命名實體和所述語料信息，拼接所述命名實體的字符和所述語料信息的字符，得到所述命名實體對應(yīng)的字符序列。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述拼接所述命名實體的字符和所述語料信息的字符，包括：

連接所述命名實體的字符和所述語料信息的字符，形成字符串；

在所述字符串的第一個字符之前添加第一預設(shè)標記，在所述字符串的最后一個字符之后添加第二預設(shè)標記；

在所述命名實體的字符和所述語料信息的字符之間插入第三預設(shè)標記。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述觀點抽取模型的softmax層根據(jù)所述命名實體對應(yīng)的字符向量序列以及訓練所述觀點抽取模型時得到的片段開始向量和片段結(jié)束向量，確定所述命名實體對應(yīng)的觀點信息，包括：

所述softmax層根據(jù)所述字符向量序列，所述片段開始向量和所述片段結(jié)束向量，計算所述語料信息中任意兩個位置之間的字符作為觀點的概率值；

在計算出的所有概率值中，確定大于預設(shè)觀點閾值的概率值；

在所述大于預設(shè)觀點閾值的概率值中，確定大于零觀點概率值以及預設(shè)基準閾值的和的概率值，作為目標概率值；其中，所述零觀點概率值是所述softmax層根據(jù)所述字符向量序列，所述片段開始向量和所述片段結(jié)束向量，計算所述語料信息中觀點開始位置和觀點結(jié)束位置都指向所述第一預設(shè)標記的字符的概率值；

將所述目標概率值對應(yīng)的兩個位置之間的字符形成的語料片段作為所述命名實體對應(yīng)的觀點信息。