[發明專利]零指代消解方法、訓練零指代消解模型的方法及電子設備

在審

• 申請號: 202011069841.X
• 申請日: 2020-09-30
• 公開（公告）號: CN112256868A
• 公開（公告）日: 2021-01-22
• 發明（設計）人: 張偉男;趙正宇;張家樂;劉挺;王家凱;陳開濟;丁勇
• 申請（專利權）人: 華為技術有限公司;哈爾濱工業大學
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F40/151;G06K9/62;G06N3/04
• 代理公司: 深圳中一聯合知識產權代理有限公司 44414
• 代理人: 李木燕

本申請適用于終端人工智能技術領域，提供了零指代消解方法、訓練零指代消解模型的方法及電子設備。上述訓練零指代消解模型的方法包括：將訓練文本中的所有詞轉換為第一向量；其中，訓練文本中包括多個先行詞和多個零代詞，第一向量包括與各個先行詞對應的第一先行詞向量和與各個零代詞對應的第一零代詞向量，第一零代詞向量中包含零代詞的位置信息；將零代詞的位置信息融合到第一先行詞向量中，得到第二先行詞向量；基于第一零代詞向量和第二先行詞向量，確定每個先行詞的理論類別標簽；其中，每個先行詞對應一個預設類別標簽；根據每個先行詞的理論類別標簽與預設類別標簽，對零指代消解模型進行訓練。上述方法能夠提高零指代消解的準確性。

技術領域

本申請涉及終端人工智能技術領域，尤其涉及一種零指代消解方法、訓練零指代消解模型的方法、電子設備及芯片系統。

背景技術

零指代現象，是指中文等語言中缺失代詞的一種語法現象。在中文等語言中，用戶能夠根據上下文的關系推斷出來的部分經常被省略，而被省略的部分在句子中又承擔相應的句法成分，并且回指前文中的某個語言單位。其中，被省略掉的部分稱為零代詞，被指向的語言單位被稱為先行詞。例如，小明吃了一個蘋果，很甜。在這句話中，表示一個零代詞，它指代前面出現的“蘋果”，而“蘋果”則為先行詞。

自然語言處理系統用于從用戶輸入的文本信息中抽取信息，并根據抽取的信息向用戶展示相關的內容。由于自然語言處理系統能夠幫助用戶方便快捷地獲取所需的內容，因此在諸如信息檢索、問答、自動文摘和機器翻譯等多個領域，得到了廣泛地應用。但是用戶在使用中文自然語言處理系統的過程中，經常會輸入省略名詞短語后的文本，由此為自然語言處理系統理解用戶意圖帶來了一定的困難。因此，為了更準確且無遺漏地從文本中抽取相關信息，必須要對文本中的零指代現象進行消解。

傳統的零指代消解方法，主要是基于長短記憶模型(Long Short-Term Memory，LSTM)模型完成的。首先，需要對大量的訓練文本數據中的先行詞及零代詞進行人工標注，之后將該訓練文本數據進行分詞、句法樹轉換等處理后，輸入到LSTM模型對模型進行訓練。在對LSTM模型訓練完成后，再通過訓練后的LSTM模型對用戶輸入的文本語句進行零指代消解。由此可見，傳統的零指代消解方法中的訓練文本數據需要消耗大量的人力資本，而且人工標注訓練文本數據中的先行詞及零代詞，缺少先行詞在上下文信息中的相關信息，導致零指代消解的準確性不高。

發明內容

本申請提供一種零指代消解方法、訓練零指代消解模型的方法及電子設備，能夠較為充分地表征先行詞在上下文信息中的相關信息，提高零指代消解的準確性。

為達到上述目的，本申請采用如下技術方案：

第一方面，本申請實施例提供一種訓練零指代消解模型的方法，適用于在電子設備中執行，所述方法包括：將訓練文本中的所有詞轉換為第一向量；其中，所述訓練文本中包括多個先行詞和多個零代詞，所述第一向量包括與各個所述先行詞對應的第一先行詞向量和與各個所述零代詞對應的第一零代詞向量，所述第一零代詞向量中包含零代詞的位置信息；將所述零代詞的位置信息融合到所述第一先行詞向量中，得到第二先行詞向量；基于所述第一零代詞向量和所述第二先行詞向量，確定每個所述先行詞的理論類別標簽；其中，每個所述先行詞對應一個預設類別標簽；根據每個所述先行詞的理論類別標簽與所述預設類別標簽，對所述零指代消解模型進行訓練。