[發明專利]一種基于知識增強的深度對話語義角色標注方法及系統

有效

• 申請號: 202110045655.0
• 申請日: 2021-01-14
• 公開（公告）號: CN112765991B
• 公開（公告）日: 2023-10-03
• 發明（設計）人: 李聰端;賀柏宇;賴東成;朱甜甜;何晶亮
• 申請（專利權）人: 中山大學
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/289;G06F40/126;G06F40/146;G06F40/216
• 代理公司: 深圳市創富知識產權代理有限公司 44367
• 代理人: 高冰

1.一種基于知識增強的深度對話語義角色標注方法，其特征在于，包括以下步驟：

獲取數據集并對數據集進行預處理，得到預處理后的文本；

根據預處理后的文本獲取三元組并按照預設規則對三元組進行篩選，得到過濾后的三元組；

將過濾后的三元組與預處理后的文本結合并轉換，得到句子樹結構；

將句子樹結構轉換為序列并輸入到BERT編碼器，輸出詞向量；

基于索引編碼器對預處理文本進行處理，得到索引向量；

將詞向量和索引向量輸入到預構建的語義角色標注模型，輸出預測標注結果。

2.根據權利要求1所述一種基于知識增強的深度對話語義角色標注方法，其特征在于，所述根據預處理后的文本獲取三元組并按照預設規則對三元組進行篩選，得到過濾后的三元組這一步驟，其具體包括：

對預處理后的文本中的詞與向知識圖譜庫請求常識三元組；

過濾包含英文信息、包含數字信息、長度大于預設值和含有預設關鍵字的三元組，得到過濾后的三元組。

3.根據權利要求2所述一種基于知識增強的深度對話語義角色標注方法，其特征在于，所述BERT編碼器包括嵌入層、可視化層和編碼層，所述預構建的語義角色標注模型包括自注意力機制層和輸出層。

4.根據權利要求3所述一種基于知識增強的深度對話語義角色標注方法，其特征在于，所述將句子樹結構轉換為序列并輸入到BERT編碼器，輸出詞向量這一步驟，其具體包括：

將句子樹結構拉平轉換成序列；

基于嵌入層對序列進行處理，得到詞的軟位置；

基于可視化層對序列進行處理，得到可視矩陣；

編碼層根據詞的軟位置和可視矩陣，輸出詞向量。

5.根據權利要求4所述一種基于知識增強的深度對話語義角色標注方法，其特征在于，所述基于索引編碼器對預處理文本進行處理，得到索引向量這一步驟，其具體包括：

對預處理文本分別進行對話輪次索引、說話者索引和謂詞索引處理并輸入到索引編碼器，生成對話輪次索引向量、說話者索引向量和謂詞索引向量。

6.根據權利要求5所述一種基于知識增強的深度對話語義角色標注方法，其特征在于，所述將詞向量和索引向量輸入到預構建的語義角色標注模型，輸出預測標注結果這一步驟，其具體包括：

將詞向量、對話輪次索引向量、說話者索引向量和謂詞索引向量經過自注意力機制層，得到注意力向量；

根據注意力向量和softmax函數生成注意力輸出；

將注意力輸出經過輸出層并通過Softmax歸一化，輸出預測標注結果。

7.一種基于知識增強的深度對話語義角色標注系統，其特征在于，包括以下模塊：

預處理模塊，用于獲取數據集并對數據集進行預處理，得到預處理后的文本；

三元組模塊，用于根據預處理后的文本獲取三元組并按照預設規則對三元組進行篩選，得到過濾后的三元組；

樹結構模塊，用于將過濾后的三元組與預處理后的文本結合并轉換，得到句子樹結構；

詞向量模塊，用于將句子樹結構轉換為序列并輸入到BERT編碼器，輸出詞向量；

索引向量模塊，基于索引編碼器對預處理文本進行處理，得到索引向量；

結果模塊，用于將詞向量和索引向量輸入到預構建的語義角色標注模型，輸出預測標注結果。