[發明專利]基于聯合知識嵌入模型和事實記憶網絡的知識圖譜問答系統

有效

• 申請號: 202010978007.6
• 申請日: 2020-09-17
• 公開（公告）號: CN112380325B
• 公開（公告）日: 2022-05-31
• 發明（設計）人: 惠孛;段貴多;田玲;羅光春;向偉富;年宇慧
• 申請（專利權）人: 電子科技大學
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/36;G06F40/30;G06N3/04;G06N3/08
• 代理公司: 電子科技大學專利中心 51203
• 代理人: 周劉英

1.基于聯合知識嵌入模型和事實記憶網絡的知識圖譜問答系統，其特征在于，包括知識嵌入模塊和問答推理模塊；

所述知識嵌入模塊用于對知識圖譜中的三元組進行向量表示，包括下列步驟：

S11：數據預處理：

對于知識圖譜中包含的每一個實體，在網絡上搜索出是否存在相應的實體描述，若存在，在獲取并保存該實體的描述文本；否則，從知識圖譜中刪除包含該實體的三元組；

S12：對知識進行嵌入：

對知識進行三元組結構嵌入、實體描述嵌入；

并采用加權求和的方式進行關系的語義嵌入；

通過BP神經網絡對實體的結構和語義嵌入進入融合；

所述問答推理模塊用于對用戶輸入的問題進行提取處理，并通過事實記憶網絡在知識圖譜上進行問題答案推理和輸出，包括下列步驟：

S21：問題處理：

基于預設的提取規則，提取出問題中用于回答問題的關鍵信息；

S22：初始事實列表構建：

識別出問題實體并進行實體鏈指后，將該實體的相關三元組均加入到事實列表中，同時標注出相應的候選答案；

在每一次加入三元組時，對應的候選答案和問題的答案類型相一致；

S23：事實記憶網絡構建：

事實記憶網絡由功能相同的記憶層構成，每一層均執行兩個操作：篩選候選答案和更新事實列表；

篩選候選答案：基于事實列表中各個三元組和問題的相關性，計算事實列表中的各三元組得分，并將得分不超過得分閾值的三元組刪除；

更新事實列表為：將新的三元組加入事實列表后，對事實列表的信息進行更新；新的三元組加入事實列表的規則為：包含事實列表的當前候選答案且與問題的答案類型一致，并且與含事實列表的當前候選答案的記錄路徑信息不重復；

S24：答案實體選擇：

選擇三元組得分最高的三元組構造查詢語句；

使用所述查詢語句在出現在當前的整個事實列表中包含的三元組集合中進行查詢，所得的答案列表即為最終的問題答案。

2.如權利要求1所述的知識圖譜問答系統，其特征在于，步驟S12的具體處理過程為：

步驟S12-1：采用TransD模型對三元組進行結構嵌入：對于每一個三元組(h，r，t)，其中，h表示頭實體，r表示關系，t表示尾實體，在經過TransD模型的結構嵌入處理后，得到的向量分別為h_s、r_s、t_s；

步驟S12-2：使用卷積神經網絡對每一個實體的對應描述進行向量表示：

設置用于實體的向量表示的卷積神經網絡結構并訓練網絡參數；

將實體的描述文本中各個詞語對應的詞向量依次進行拼接后作為卷積神經網絡的輸入，前向計算的輸出作為當前實體的語義向量，包括頭實體的語義向量h_d和尾實體的語義向量t_d；

步驟S12-3：采用具有層次類型的知識圖譜表示學習方式獲取關系的語義向量u_r：

定義n表示關系r的標簽詞的層級數；

定義α_i表示第i級標簽詞的向量，且向量α_i由組成標簽詞的各個詞語對應的詞向量相加所得，定義β_i表示第i級標簽詞的權值，其中i＝1，2，3...，m；且i越小表示標簽語義越具體，對應的權重越大；

關系的語義向量u_r為：u_r＝β₁α₁+β₂α₂+…+β_mα_m；

且有β_i：β_i+1＝(1-μ)：μ，μ∈(0，0.5)，

將步驟S12-1得到的頭實體向量h_s和尾實體向量t_s分別與步驟S12-2得到的頭實體的語義向量和尾實體的語義向量進行拼接：以及將步驟S12-1得到的關系向量r_s與步驟S12-3得到的關系的向量u_r進行拼接；從而得到三元組的嵌入向量。

3.如權利要求2所述的知識圖譜問答系統，其特征在于，步驟S12-2中，卷積神經網絡包括依次連接的卷積層、K最大值池化層、卷積層和均值池化層。