[發明專利]問題文本中實體屬性的生成方法、裝置、設備及存儲介質

在審

• 申請號: 202211299339.7
• 申請日: 2022-10-24
• 公開（公告）號: CN115357705A
• 公開（公告）日: 2022-11-18
• 發明（設計）人: 江嶺;王思宇;黃鵬
• 申請（專利權）人: 成都曉多科技有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/33;G06F16/36;G06F40/126;G06F40/295
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 丁曼曼

本發明公開了一種問題文本中實體屬性的生成方法，包括以下步驟：利用屬性集合預測模型中的問題編碼器對問題文本中各詞匯的詞嵌入進行編碼操作，得到上下文感知的句子表示向量；獲取隨機初始化得到的各屬性查詢向量；利用屬性集合預測模型中的問題解碼器基于交叉注意力機制和自注意力機制，根據各屬性查詢向量對上下文感知的句子表示向量進行解碼操作，得到問題文本中包含的各實體屬性。應用本發明所提供的問題文本中實體屬性的生成方法，既可以同時識別多個屬性，又不需要識別問題文本中包含的各實體屬性的順序，較大地降低了模型負擔，提高了模型的性能。本發明還公開了一種問題文本中實體屬性的生成裝置、設備及存儲介質，具有相應技術效果。

技術領域

本發明涉及人工智能技術領域，特別是涉及一種問題文本中實體屬性的生成方法、裝置、設備及計算機可讀存儲介質。

背景技術

隨著電子商務的蓬勃發展，越來越多的用戶采用網上購物。用戶在購物的時候需要咨詢許多商品相關的問題，因此商品智能問答系統應運而生。然而目前的商品問答系統大多回答用戶的簡單問題，而對于用戶的復雜問題不能很好的回答。例如問題“這款電視是什么系統，有HDMI（High Definition Multimedia Interface，高清晰度多媒體接口）接口嗎”在這類問題中包含多個問題，需要智能問答系統同時回答，這給目前的智能問答系統帶來了挑戰。

智能問答系統中的屬性識別本質上是一個分類問題，用于從問題中獲得相應的實體屬性。然而，復雜問題中大多包含多個屬性，因此是一個多標簽分類問題。多標簽問題一般可采用基于Seq2Seq的生成式模型來生成標簽，即輸入問題的詞序列，輸出標簽的序列。Seq2Seq模型要求輸入輸出按照一定的順序進行排列，然而在實際中，用戶對于問題中的子問題（屬性）的先后順序并不敏感。例如上述問題提及系統和HDMI接口2個子問題，回答系統先答復任何一個子問題（屬性）都是可以的。因此如果完全采用Seq2Seq模型來生成問題所涉及的屬性，模型不僅需要識別問題中所涉及的屬性還要識別到多個屬性中的正確順序，這無疑給模型帶來了額外的負擔。

綜上所述，如何有效地解決采用Seq2Seq模型來生成問題所涉及的屬性，需要識別到多個屬性中的正確順序，模型負擔大的問題，是目前本領域技術人員急需解決的問題。

發明內容

本發明的目的是提供一種問題文本中實體屬性的生成方法，該方法不需要識別問題文本中包含的各實體屬性的順序，較大地降低了模型負擔；本發明的另一目的是提供一種問題文本中實體屬性的生成裝置、設備及計算機可讀存儲介質。

為解決上述技術問題，本發明提供如下技術方案：

一種問題文本中實體屬性的生成方法，包括：

利用屬性集合預測模型中的問題編碼器對問題文本中各詞匯的詞嵌入進行編碼操作，得到上下文感知的句子表示向量；

獲取隨機初始化得到的各屬性查詢向量；

利用所述屬性集合預測模型中的問題解碼器基于交叉注意力機制和自注意力機制，根據各所述屬性查詢向量對所述上下文感知的句子表示向量進行解碼操作，得到所述問題文本中包含的各實體屬性。

在本發明的一種具體實施方式中，利用問題解碼器基于交叉注意力機制和自注意力機制根據各所述屬性查詢向量對所述上下文感知的句子表示向量進行解碼操作，得到所述問題文本中包含的各實體屬性，包括：

利用所述問題解碼器的第一注意力層基于所述交叉注意力機制根據各所述屬性查詢向量對所述上下文感知的句子表示向量進行解碼操作，得到各交叉注意力感知的表示向量；

利用所述問題解碼器的第二注意力層基于所述自注意力機制對各所述交叉注意力感知的表示向量進行解碼操作，得到各自注意力與交叉注意力感知的表示向量；

將各所述自注意力與交叉注意力感知的表示向量輸入至所述問題解碼器的前饋網絡，得到各目標向量；

將各所述目標向量輸入至所述問題解碼器的全連接層，輸出各所述實體屬性。

在本發明的一種具體實施方式中，還包括：