[發(fā)明專利]一種知識聯(lián)合抽取模型訓(xùn)練方法

在審

• 申請?zhí)枺?/td>: 202110466416.2
• 申請日: 2021-04-28
• 公開（公告）號: CN113011191A
• 公開（公告）日: 2021-06-22
• 發(fā)明（設(shè)計）人: 王濤;周佳樂;程良倫;王卓薇;鄧健峰
• 申請（專利權(quán)）人: 廣東工業(yè)大學(xué)
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F40/30;G06N3/04
• 代理公司: 北京集佳知識產(chǎn)權(quán)代理有限公司 11227
• 代理人: 劉曉娟

1.一種知識聯(lián)合抽取模型訓(xùn)練方法，其特征在于，包括：

S1：采用初始種子訓(xùn)練集訓(xùn)練預(yù)置聯(lián)合抽取模型，得到更新聯(lián)合抽取模型，所述初始種子訓(xùn)練集包括第一標簽，所述預(yù)置聯(lián)合抽取模型用于實體識別和關(guān)系抽取；

S2：通過無標注測試集對所述更新聯(lián)合抽取模型進行測試，得到測試結(jié)果；

S3：基于最大熵原理對所述測試結(jié)果進行評估分析，得到評估置信度；

S4：在所述評估置信度小于置信度閾值時，將添加第二標簽后的所述無標注測試集加入所述初始種子訓(xùn)練集中，并執(zhí)行步驟S1-S3。

2.根據(jù)權(quán)利要求1所述的知識聯(lián)合抽取模型訓(xùn)練方法，其特征在于，所述預(yù)置聯(lián)合抽取模型包括字符嵌入層、Bi-LSTM層、自注意力機制層和Bi-GCN層；

相應(yīng)的，步驟S1，包括：

通過所述字符嵌入層對所述初始種子訓(xùn)練集進行詞向量提取，并提取所述詞向量對應(yīng)的字符特征向量；

通過所述Bi-LSTM層對所述字符特征向量進行上下文特征提取，得到上下文特征向量；

通過所述自注意力機制層根據(jù)所述上下文特征向量進行強關(guān)系捕捉，得到增強上下文特征向量；

通過所述Bi-GCN層根據(jù)所述增強上下文特征向量進行實體識別和關(guān)系抽取。

3.根據(jù)權(quán)利要求2所述的知識聯(lián)合抽取模型訓(xùn)練方法，其特征在于，所述通過所述字符嵌入層對所述初始種子訓(xùn)練集進行詞向量提取，并獲取所述詞向量對應(yīng)的字符特征向量，包括：

通過所述字符嵌入層采用預(yù)置Word2vec對所述初始種子訓(xùn)練集中的文本進行詞向量提取，得到詞向量表示；

通過預(yù)置字符提取算法提取所述詞向量表示中的詞向量對應(yīng)的字符特征向量。

4.根據(jù)權(quán)利要求1所述的知識聯(lián)合抽取模型訓(xùn)練方法，其特征在于，步驟S3，包括：

基于最大熵原理計算所述測試結(jié)果對應(yīng)的熵值；

根據(jù)所述熵值進行不確定度分析，并計算所述測試結(jié)果的評估置信度。