[發明專利]智慧城市主題信息抽取方法、裝置、電子設備和存儲介質

在審

• 申請號: 202110642261.3
• 申請日: 2021-06-09
• 公開（公告）號: CN113297373A
• 公開（公告）日: 2021-08-24
• 發明（設計）人: 楊楊;于海濤;高志鵬;趙斌男;王臻;趙龍軍;李恒;李良;冷超;高楓;陳奇柏
• 申請（專利權）人: 北京郵電大學;中國雄安集團數字城市科技有限公司;中國聯合網絡通信集團有限公司
• 主分類號: G06F16/335
• 分類號: G06F16/335;G06F16/35;G06F40/295;G06F40/30;G06F17/16;G06N3/04;G06N3/08
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 陳新生

本發明實施例提供一種智慧城市主題信息抽取方法、裝置、電子設備和存儲介質。該方法包括：將待抽取的智慧城市主題文本輸入至預訓練模型，輸出智慧城市主題文本特征矩陣；基于文本特征矩陣，確定頭實體位置特征矩陣和尾實體位置特征矩陣；其中，實體為被識別的目標單詞，頭實體位置特征矩陣和尾實體位置特征矩陣表示待抽取文本中單詞與實體的相對位置關系；基于頭實體位置特征矩陣和尾實體位置特征矩陣，確定面向智慧城市主題的簡潔文本特征矩陣；基于簡潔文本特征矩陣確定待抽取文本中的實體關系。本發明實施例通過將智慧城市主題的外部語料的絕對位置信息遷移至實體關系抽取具體任務，并通過降噪處理緩解噪聲與誤標注數據對模型參數更新的干擾，提升智慧城市知識圖譜的實體關系抽取精度。

技術領域

本發明涉及信息技術領域，尤其涉及一種智慧城市主題信息抽取方法、裝置、電子設備和存儲介質。

背景技術

隨著互聯網的高速發展，社會熱點事情瞬息全球，如何加速有效信息傳播，同時研究智慧城市知識圖譜模型中的信息表示方法，有利于加快對智慧城市建設的研究，對提高智慧城市文本數據的應用至關重要。在當今的網絡中包含了大量非結構或半結構化的信息，如何從海量數據中挖掘實際應用場景需求的信息，是目前大數據領域的主要研究方向。在數據爆炸的同時，利用技術手段對海量無結構化數據進行自動的歸納、分類、提取等操作，形成結構化的知識并存儲，是一個具有挑戰性的問題，信息抽取(InformationExtraction)的研究也隨之興起。信息抽取面向非結構化文本數據，可以細分為實體關系抽取(Entity Relation Extraction)、事件抽取(Event Extraction)、時間表述(TemporalExpressions)等技術，實體關系抽取也是其最重要的組成部分之一。實體關系抽取技術通過理解文本語義，抽取文本中出現的實體之間的現實關系，形成實體-關系-實體三元組。這種研究具有深刻的科學意義與廣泛的商業和社會價值。

在人工智能的發展過程中，基于有監督的機器學習與深度學習的方法成為實體關系抽取研究的重點。監督學習通過人工標注大量實體和關系樣本來訓練模型，準確性更高。目前深度學習技術已成為自然語言處理領域的主流算法框架，在實體關系抽取任務中，面向大量的有標注數據設計基于深度神經網絡與注意力機制的端到端模型，也達到了最佳的性能。但是，有監督的學習方法也面對著一下技術難題。

利用遠程監督機制擴大標注的樣本量包辦大量誤標注與噪聲?；ヂ摼W文本數據內容分散，實體分布稀疏，可以提取的實體-關系-實體標注數據量十分有限，標注數據量不足是限制監督學習模型的性能的一個重要因素。為此，目前大多采用的遠程監督(DistantSupervision)機制與知識庫對齊，自動生成大量標注數據。遠程監督機制雖然擴充了數據量，但是數據中包含大量誤標注與噪聲，直接在這些數據上訓練實體關系抽取模型，模型的參數更新會受到錯誤數據的影響，無法達到全局最優，影響抽取精度。近年來，越來越多的研究者把目光投射到遷移學習領域。

現有的信息抽取方法都或多或少地存在一些問題，因此，亟需一種數據語料的信息表示方法，來實現外部知識可以融入實體關系的判斷，并減弱遠程監督數據集中的噪聲對真實關系屬性的干擾。

發明內容

本發明實施例的目的是提供一種克服上述問題或者至少部分地解決上述問題的信息抽取方法、裝置、電子設備和存儲介質。

為了解決上述技術問題，一方面，本發明實施例提供一種信息抽取方法，包括：

將待抽取的智慧城市主題文本輸入至預訓練模型，輸出文本特征矩陣；

基于所述文本特征矩陣，確定頭實體位置特征矩陣和尾實體位置特征矩陣；其中，實體為被識別的目標單詞，所述頭實體位置特征矩陣和所述尾實體位置特征矩陣表示所述待抽取文本中單詞與實體的相對位置關系；

基于所述頭實體位置特征矩陣和所述尾實體位置特征矩陣，確定簡潔文本特征矩陣；

基于所述簡潔文本特征矩陣確定所述待抽取文本中的實體關系。