[發明專利]表示學習方法及裝置

在審

• 申請號: 201810822334.5
• 申請日: 2018-07-24
• 公開（公告）號: CN110851609A
• 公開（公告）日: 2020-02-28
• 發明（設計）人: 賈巖濤;劉冬;李馮福
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36
• 代理公司: 北京中博世達專利商標代理有限公司 11274
• 代理人: 申健

本申請提供一種表示學習方法及裝置，涉及大數據技術領域，用于解決當前表示學習方法無法刻畫知識圖譜中深層次語義信息的問題。該方法包括：根據融合文本的知識圖譜的三元組中實體的類型，確定實體的類型表示向量；根據三元組中關系的類型，確定關系的類型表示向量；根據實體的文本信息，確定實體的上下文表示向量；根據關系的權重值，確定關系的上下文表示向量；根據實體的類型表示向量、實體的上下文表示向量、關系的類型表示向量以及關系的上下文表示向量，構建三元組的打分函數；根據三元組的打分函數，構建目標函數；最小化目標函數，學習實體的表示向量和關系的表示向量。本申請適用于對知識圖譜進行表示學習的過程中。

技術領域

本申請涉及大數據技術領域，尤其涉及表示學習方法及裝置。

背景技術

知識圖譜(Knowledge Graph)以結構化的方式描述客觀世界中概念、實體及它們之間的關系，將互聯網的信息表達成更接近人類認知世界的形式，提供了一種更好地組織、管理和理解互聯網海量信息的能力。隨著人工智能的技術發展和應用，知識圖譜逐漸成為關鍵技術之一，現已被廣泛應用于智能搜索、智能問答、個性化推薦、內容分發等領域。

由于知識圖譜中的實體、概念以及關系均采用了離散的符號化表示，這些離散的符號化表示難以直接應用于計算或推理等方面。因此，為了有效利用知識圖譜中的符號化知識，研究人員提出了知識圖譜的表示學習方法。知識圖譜的表示學習方法旨在將知識圖譜中的實體和關系都表示成低維向量空間中的向量，從而將實體和關系之間的計算轉化為向量間的數值計算。

當前的表示學習方法不能刻畫知識圖譜中深層次的語義信息，例如“公司A-吞了-公司B”和“蟒蛇-吞了-兔子”，兩個“吞了”具有不同的含義，但是在當前的表示學習中會表示成同一個向量，導致出現錯誤。

發明內容

本申請提供一種表示學習方法及裝置，用于刻畫知識圖譜中深層次的語義信息，提高表示學習的準確性。

為達到上述目的，本申請采用如下技術方案：

第一方面，提供一種表示學習方法，包括：根據融合文本的知識圖譜的三元組中實體的類型，確定實體的類型表示向量，該實體包括頭實體和尾實體；根據三元組中關系的類型，確定關系的類型表示向量；根據實體的文本信息，確定實體的上下文表示向量；根據關系的權重值，確定關系的上下文表示向量；根據實體的類型表示向量、實體的上下文表示向量、關系的類型表示向量以及關系的上下文表示向量，構建三元組的打分函數；根據三元組的打分函數，構建目標函數；最小化目標函數，學習實體的表示向量和關系的表示向量?；谠摷夹g方案，由于實體的類型和上下文，關系的類型和權重值均代表一定的深層次語義信息，因此通過考慮實體的類型和上下文，以及關系的類型和權重值，使得確定出來的實體的表示向量以及關系的表示向量能夠刻畫出知識圖譜中深層次的語義信息，提高表示學習的準確性。

一種可能的設計中，在根據融合文本的知識圖譜的三元組中實體的類型，確定實體的類型表示向量之前，該方法還包括：初始化頭實體的表示向量、尾實體的表示向量、關系的表示向量、實體類型表示矩陣、關系類型表示矩陣、詞表示矩陣以及權重值的表示向量。這樣一來，在后續的表示學習過程中，能夠確定關系的類型表示向量、實體的類型表示向量、關系的上下文表示向量以及實體的上下文表示向量。

一種可能的設計中，根據融合文本的知識圖譜的三元組中實體的類型，確定實體的類型表示向量，包括：根據頭實體的類型，確定頭實體的類型標識向量；根據公式確定頭實體的類型表示向量；其中，f₁(h)表示頭實體的類型表示向量，W_etype表示實體類型表示矩陣，v_etype(h)表示頭實體的類型標識向量；根據尾實體的類型，確定尾實體的類型標識向量；根據公式確定尾實體的類型表示向量；其中，f₁(t)表示尾實體的類型表示向量，v_etype(t)表示尾實體的類型標識向量。