[發明專利]面向知識圖譜多跳推理的錐嵌入方法

在審

• 申請號: 202110692090.5
• 申請日: 2021-06-22
• 公開（公告）號: CN113449075A
• 公開（公告）日: 2021-09-28
• 發明（設計）人: 王杰;張占秋;陳佳俊
• 申請（專利權）人: 中國科學技術大學
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/36;G06N3/04;G06N3/08;G06N5/04
• 代理公司: 北京凱特來知識產權代理有限公司 11260
• 代理人: 鄭立明;付久春

本發明公開了一種面向知識圖譜多跳推理的錐嵌入方法，包括：步驟1，通過訓練集利用梯度下降算法對查詢錐嵌入模型進行訓練，訓練集為給定的一個包含若干實體的知識圖譜數據集的子集；查詢錐嵌入模型能將實體和查詢表示為2維錐的笛卡爾積，并在嵌入空間中設置與、或、非算子，建模所有一階邏輯查詢；步驟2，利用訓練好的查詢錐嵌入模型對一個給定查詢，先將其生成錐嵌入，然后計算該錐嵌入與各個實體嵌入之間的距離，以距離最近的實體作為該查詢的答案。該方法由于能對查詢涉及多種FOL算子時，對答案集的基數進行建模，很好的滿足了知識圖譜的多跳推理任務中的應用，由于能準確估計查詢所對應答案集合的大小，易于實現精確的推理。

技術領域

本發明涉及自然語言處理領域，尤其涉及一種面向知識圖譜多跳推理的錐嵌入方法。

背景技術

知識圖譜(Knowledge Graphs,KGs)上的多跳推理是利用知識圖譜中的知識來尋找給定查詢(query)的答案實體，近年來受到學術界和工業界的廣泛關注。一般來說，它涉及到回答知識圖譜上的一階邏輯查詢，使用的運算符包括存在量詞與(∧)、或(∨)和否定常見的知識推理包括基于規則的方法和基于知識圖譜嵌入的方法。

目前，在知識圖譜上進行多跳推理的一種流行方法是：先將查詢轉換為相應的計算圖，計算圖中每個節點表示一個實體集合，每條邊表示一個邏輯運算，然后根據計算圖遍歷知識圖譜以獲得最終的答案實體集合。然而，這種方法至少面臨以下兩大挑戰：首先，它需要處理推理路徑上的所有中間實體，導致計算量呈指數級增長；其次，當知識圖譜中缺少一些鏈接時，它難以找到正確答案。

為了應對這些挑戰，研究人員目前多采用查詢嵌入(QE)技術。查詢嵌入是將知識圖譜中的實體集合和一階邏輯查詢嵌入到低維空間中。給定一個查詢，查詢嵌入模型(即QE模型)根據查詢對應的計算圖生成查詢嵌入。然后，根據查詢嵌入和實體嵌入之間的相似性來確定某個實體是否是正確答案。

為了進行精確的推理，若能準確估計查詢答案集合的大小(即答案實體的數量)對于查詢嵌入模型來說是至關重要的，因此一個查詢嵌入模型若能夠準確地估計查詢答案集合的大小，那么它更有可能識別出所有正確的答案實體，但目前的查詢嵌入并無法準確估計查詢答案集合的大小，降低了識別出所有正確答案實體的可能。

發明內容

針對現有技術所存在的問題，本發明的目的是提供一種面向知識圖譜多跳推理的錐嵌入方法，能解決現有查詢嵌入，因不能準確估計查詢答案集合的大小，所存在的降低了識別出所有正確的答案實體的問題。

本發明的目的是通過以下技術方案實現的：

本發明實施方式提供一種面向知識圖譜多跳推理的錐嵌入方法，包括：

步驟1，通過訓練集利用梯度下降算法對查詢錐嵌入模型進行訓練，所述訓練集為給定的一個包含若干實體的知識圖譜數據集的子集；所述查詢錐嵌入模型能將實體和查詢表示為2維錐的笛卡爾積，并在嵌入空間中設置與、或、非算子，建模所有一階邏輯查詢；

步驟2，利用訓練好的查詢錐嵌入模型對一個給定查詢，先將其生成錐嵌入，然后計算該錐嵌入與各個實體嵌入之間的距離，以距離最近的實體作為該查詢的答案。

由上述本發明提供的技術方案可以看出，本發明實施例提供的面向知識圖譜多跳推理的錐嵌入方法，其有益效果為：

通過查詢錐嵌入模型，將實體和查詢表示為2維錐的笛卡爾積，因為錐的幅角可以自然地表示任意有限集合的大小，因此，可以用幅角來表示答案集合的大小；因為錐的交、并、補的閉包仍然是錐，在嵌入空間中能方便的設置與、或、非算子，從而建模所有一階邏輯查詢，實驗表明，本發明的查詢錐嵌入模型在基準數據集上的性能明顯優于現有的最新方法。也解決了查詢涉及多種FOL算子時，許多現有的QE模型難以對答案集的基數進行建模的問題。

附圖說明