[發明專利]對實體詞的語義關系進行分類的方法、裝置和電子設備

有效

• 申請號: 201610929103.5
• 申請日: 2016-10-31
• 公開（公告）號: CN108021544B
• 公開（公告）日: 2021-07-06
• 發明（設計）人: 張姝;楊銘;孫俊
• 申請（專利權）人: 富士通株式會社
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F40/30
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 陶海萍;王曦

本申請實施例提供一種對文本序列中實體詞的語義關系進行分類的方法、裝置和電子設備，該裝置包括：第一獲得單元，其用于將文本序列中的每個詞用詞向量表示，以構建第一矩陣；第二獲得單元，其利用深度學習模型對所述第一矩陣進行處理，以獲得第二矩陣；第三獲得單元，其利用2個以上的注意力模型，對所述第二矩陣進行處理，以確定所述文本序列中詞的受關注程度，并基于所述受關注程度獲得所述文本序列的第三矩陣；分類單元，其至少根據所述文本序列的所述第三矩陣，以及預先存儲的分類模型，來確定所述文本序列中的實體詞之間的語義關系。根據本實施例，能夠提高分類效率。

技術領域

本申請涉及信息技術領域，尤其涉及一種對文本序列中實體詞的語義關系進行分類的方法、裝置和電子設備。

背景技術

實體詞的語義關系分類是指，確定文本序列中的實體詞之間的語義關系屬于預定的語義關系中的哪一類，該預定的語義關系例如可以是上位概念與下位概念的關系、動賓關系等，例如，在句子“e1機器e1產生了大量e2噪音e2”中，確定實體詞e1與實體詞e2之間的關系為：因-果(e1，e2)。

在自然語言處理領域，實體詞的語義關系分類較受關注，因為語義關系分類在信息抽取、信息檢索、機器翻譯、問答、知識庫建設和語義消歧等任務中都有重要的應用價值。

在現有的實體詞的語義關系分類方法中，可以利用基于長短期記憶(Long-ShortTerm Memory，LSTM)單元的遞歸神經網絡(Recurrent Neural Network，RNN)模型來進行分類，該模型能有效利用序列數據中長距離依賴信息的能力，因此對于文本序列數據的處理非常有效。

應該注意，上面對技術背景的介紹只是為了方便對本申請的技術方案進行清楚、完整的說明，并方便本領域技術人員的理解而闡述的。不能僅僅因為這些方案在本申請的背景技術部分進行了闡述而認為上述技術方案為本領域技術人員所公知。

發明內容

本申請的發明人發現，在語義關系分類任務重時，句子中的其它詞對實體詞的重要程度是不同的，對于分類結果的影響也是不同的。當文本序列中的詞的數量較少時，現有的實體詞的語義關系分類方法能夠高效地進行分類，而當文本序列中的詞的數量較多時，由于存在大量對分類結果影響不大的詞，所以分類的效率會降低。

本申請的實施例提供一種對實體詞的語義關系進行分類的方法、裝置和電子設備，通過引入注意力模型(Attention Model)來確定文本序列中詞的受關注程度，進而基于受關注程度對實體詞之間的語義關系進行分類，由此，能夠提高分類的效率。

根據本申請實施例的第一方面，提供一種對文本序列中實體詞的語義關系進行分類的裝置，該裝置包括：

第一獲得單元，其用于將文本序列中的每個詞用詞向量表示，以構建第一矩陣；

第二獲得單元，其利用深度學習模型對所述第一矩陣進行處理，以獲得第二矩陣，其中，所述第二矩陣的行或列與所述文本序列中的詞對應；

第三獲得單元，其利用2個以上的注意力模型，對所述第二矩陣進行處理，以確定所述文本序列中詞的受關注程度，并基于所述受關注程度獲得所述文本序列的第三矩陣；

分類單元，其至少根據所述文本序列的所述第三矩陣，以及預先存儲的分類模型，來確定所述文本序列中的實體詞之間的語義關系。

根據本申請實施例的第二方面，提供一種對文本序列中實體詞的語義關系進行分類的方法，該方法包括：

將文本序列中的每個詞用詞向量表示，以構建第一矩陣；

利用深度學習模型對所述第一矩陣進行處理，以獲得第二矩陣，其中，所述第二矩陣的行或列與所述文本序列中的詞對應；

利用2個以上的注意力模型，對所述第二矩陣進行處理，以確定所述文本序列中詞的受關注程度，并基于所述受關注程度獲得所述文本序列的第三矩陣；以及