[發(fā)明專利]一種基于深度學習的知識圖譜構建方法

有效

• 申請?zhí)枺?/td>: 201710713735.2
• 申請日: 2017-08-18
• 公開（公告）號: CN107526799B
• 公開（公告）日: 2021-01-08
• 發(fā)明（設計）人: 姬東鴻;李霏
• 申請（專利權）人: 武漢紅茶數(shù)據(jù)技術有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F40/216;G06F40/295;G06N3/04
• 代理公司: 武漢大楚知識產權代理事務所(普通合伙) 42257
• 代理人: 徐楊松

本發(fā)明涉及一種基于深度學習的知識圖譜構建方法，包括給定目標文本語句,使用雙向長短時記憶循環(huán)神經網絡模型和條件隨機場模型識別目標文本語句中的目標實體；使用上下文敏感雙向長短時記憶循環(huán)神經網絡模型和前向神經網絡模型抽取兩個目標實體之間的關系；使用向量空間模型對目標實體進行規(guī)范化，并將規(guī)范化后的目標實體映射到概念上；根據(jù)目標實體、目標實體之間的關系和概念構建知識圖譜。本發(fā)明將深度學習技術應用到知識圖譜圖譜的構建中，采用雙向循環(huán)神經網絡和條件隨機場的實體識別模型對目標文本語句中的目標實體進行識別，減少實體識別和關系抽取過程中的特征工程，減輕人工設計和調節(jié)特征帶來的負擔和麻煩，精準挖掘文本中的知識。

技術領域

本發(fā)明涉及自然語言處理技術領域，尤其涉及一種基于深度學習的知識圖譜構建方法。

背景技術

Web作為一個巨大的、開放的、異構的和動態(tài)的信息容器，產生和容納了巨大規(guī)模的文本、數(shù)據(jù)、多媒體、臨時性數(shù)據(jù)等各類信息。由于資源分散且沒有統(tǒng)一的管理和結構，這就導致相關信息的獲取并非易事，人們真正感興趣的內容常常被淹沒在眾多無關信息當中。通過對網絡內容進行深度的語義挖掘，從語義層次理解用戶的興趣，才能為人們提供高質量的互聯(lián)網資訊。在這個背景下，Google、百度和搜狗等搜索引擎公司紛紛以此為基礎構建知識圖譜。知識圖譜旨在描述真實世界中存在的各種實體或概念。其中，每個實體或概念用一個全局唯一確定的ID來標識，稱為它們的標識符(identifier)。每個屬性-值對(attribute-value pair，又稱AVP)用來刻畫實體的內在特性，而關系(relation)用來連接兩個實體，刻畫它們之間的關聯(lián)。知識圖譜亦可被看作是一張巨大的圖，圖中的節(jié)點表示實體或概念，而圖中的邊則由屬性或關系構成。

命名實體識別是信息提取、問答系統(tǒng)、句法分析、機器翻譯、面向語義網的元數(shù)據(jù)標注等應用領域的重要基礎工具，在自然語言處理技術走向實用化的過程中占有重要地位。一般來說，命名實體識別的任務就是識別出待處理文本中三大類(實體類、時間類和數(shù)字類)、七小類(人名、機構名、地名、時間、日期、貨幣和百分比)命名實體。在實體識別的過程中，還需要同時對實體間的語義關系進行判斷。因為本體庫的概念之間定義了大量語義關系，只有明確了這些關系，才能更好的進行語義挖掘。

目前互聯(lián)網中的主要文本挖掘技術常用的方法主要是基于特征或基于核函數(shù)的模型。基于特征的模型往往需要設計大量的詞法，句法和語義的特征，然后放到像支持向量機(SVM)這樣的分類器當中進行分類，其中基于特征的方法最大的問題是要花費大量的時間和精力去構造特征。而另一種基于核函數(shù)的方式，雖然不用去建造龐大的特征工程，但如何設計和選擇合適的核函數(shù)非常困難。

發(fā)明內容

本發(fā)明所要解決的技術問題是針對上述現(xiàn)有技術的不足，提供一種基于深度學習的知識圖譜構建方法。

本發(fā)明解決上述技術問題的技術方案如下：一種基于深度學習的知識圖譜構建方法，包括如下步驟：

步驟1：給定目標文本語句,使用雙向長短時記憶循環(huán)神經網絡模型和條件隨機場模型識別所述目標文本語句中的目標實體；

步驟2：使用上下文敏感雙向長短時記憶循環(huán)神經網絡模型和前向神經網絡模型抽取兩個所述目標實體之間的關系；

步驟3：使用向量空間模型對目標實體進行規(guī)范化，并將規(guī)范化后的所述目標實體映射到詞典概念上；

步驟4：根據(jù)所述目標實體、所述目標實體之間的關系和概念構建知識圖譜。

本發(fā)明的有益效果是：本發(fā)明的基于深度學習的知識圖譜構建方法，將深度學習技術應用到知識圖譜圖譜的構建中，采用雙向循環(huán)神經網絡和條件隨機場的實體識別模型對目標文本語句中的目標實體進行識別，減少實體識別和關系抽取過程中的特征工程，減輕人工設計和調節(jié)特征帶來的負擔和麻煩，利用深度學習技術的學習能力和表示能力，精準挖掘文本中的知識。

在上述技術方案的基礎上，本發(fā)明還可以做如下改進：