[發明專利]一種基于深度學習的可評判文本內容與實體相關性的實體抽取方法

有效

• 申請號: 201911148302.2
• 申請日: 2019-11-21
• 公開（公告）號: CN111090724B
• 公開（公告）日: 2023-05-12
• 發明（設計）人: 李舉;劉方然;李金波;徐常亮
• 申請（專利權）人: 新華智云科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/295;G06F40/30;G06F18/241;G06F18/2415
• 代理公司: 杭州裕陽聯合專利代理有限公司 33289
• 代理人: 姚宇吉

1.一種基于深度學習的可評判文本內容與實體相關性的實體抽取方法，其方法包括如下步驟：

步驟一：指出文本由n個單詞組成，含有m個實體[E₁,E₂,E₃,…,E_m]；

步驟二：使用LSTM表示步驟一中的文本字面語義；

步驟三：拼接文本字面語義表示和平均化除待確定相關性實體外的其他實體表示，最終生成文本語義context；

步驟四：使待確定相關性實體對文本語義context進行注意力機制運算，得到注意力向量；

步驟五：根據步驟四中的注意力向量計算文本語義的進一步表示，注意力向量分別與context的元素相乘，然后相加，得到針對實體注意力的文本語義表示：

步驟六：將步驟五中的基于實體注意力的文本語義表示C_r和待確定相關性實體表示E_m拼接成向量d，并送入分類器,最終得到實體與文本相關性強弱的概率；

所述步驟三中，平均化除待確定相關性實體外的其他實體表示定義為：設E_m為待確定相關性實體，故平均化除待確定相關性實體外的其他實體語義表示為：

拼接后的文本表示為：

所述步驟四中，令實體對文本的注意力向量為：

其中γ為注意力分數函數，被定義為：

W_a，b_a為權重矩陣和偏移量；

所述步驟六中，d＝C_r+E_m，分類器為：

x＝tanh(W_l·d+b_l)，

其中W_l，b_l分別為權重矩陣和偏移量。

2.根據權利要求1所述的基于深度學習的可評判文本內容與實體相關性的實體抽取方法，其特征在于：所述步驟一中，w為對應詞的word2vec向量，E表示對應實體的TransH表示。

3.根據權利要求1所述的基于深度學習的可評判文本內容與實體相關性的實體抽取方法，其特征在于：所述步驟二中，LSTM算法定義為：給定詞向量w^k，先前的cell狀態為c^k-1，先前的隱藏層狀態h^k-1，當前cell狀態為c^k，當前隱藏層狀態為h^k-1，故LSTM網絡如下：

i^k＝σ(W_i^w·w^k+W_i^h·h^k-1+b_i)??(1)

h^k＝o^k⊙tanh(c^k)?(6)

其中i，f，o分別為輸入門、遺忘門、輸出門，σ為激活函數，這時得到了文本字面語義表示：