[發明專利]語句的語義表示處理方法及裝置、計算機設備及可讀介質

在審

• 申請號: 201910574233.5
• 申請日: 2019-06-28
• 公開（公告）號: CN110377905A
• 公開（公告）日: 2019-10-25
• 發明（設計）人: 王碩寰;李宇琨;孫宇;馮仕堃;田浩;李芝;何徑舟;吳華;王海峰
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27
• 代理公司: 北京鴻德海業知識產權代理事務所(普通合伙) 11412
• 代理人: 田宏賓

本發明提供一種語句的語義表示處理方法及裝置、計算機設備及可讀介質。其方法包括：獲取待分析的語句；根據預先訓練的語義表示模型，獲取所述語句的、具有知識融合的語義表示；所述語義表示模型基于字粒度、詞語粒度以及實體粒度進行訓練得到。本發明的技術方案，由于采用了基于字粒度、詞語粒度以及實體粒度進行訓練得到的語義表示模型，可以基于該語義表示模型獲取到準確的語義表示，進而可以基于語句的準確地語義表示執行有效地NLP任務處理。

【技術領域】

本發明涉及計算機應用技術領域，尤其涉及一種語句的語義表示處理方法及裝置、計算機設備及可讀介質。

【背景技術】

人工智能(Artificial Intelligence；AI)，是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。人工智能是計算機科學的一個分支，它企圖了解智能的實質，并生產出一種新的能以人類智能相似的方式做出反應的智能機器，該領域的研究包括機器人、語言識別、圖像識別、自然語言處理(Natural LanguageProcessing；NLP)和專家系統等。尤其是NLP領域，為近年來AI研究的一個比較火的方向。

在NLP領域中，可以采用神經網絡模型對語句進行語義表示，進而基于獲取到的語義表示進行NLP的任務處理。現有技術中，典型的語義表示技術包括采用上下文無關的語義表示Word2Vec、Glove模型等實現的語義表示，以及采用上下文相關的語義表示Elmo、轉化器的雙向編碼表示(Bidirectional Encoder Representations from Transformers；BERT)模型等實現的語義表示。目前已有技術中最典型的是采用BERT模型進行語義表示，BERT模型使用多層Attention結構的Transformer作為底層語義表示，同時構建了兩個自監督任務讓語義表示模型去學習。其中最典型的任務為學習語言的共現規律，該任務是類似于完形填空的任務。具體地，在一段話中隨機掩蓋住一定比例的字，讓模型學會根據周圍的字去預測它。

但是現有的BERT模型，通過掩蓋字進行建模的學習方式，無法學出更大語義單元的完整語義表示，也無法學習到整句話中蘊含的知識融合關系如不同語義單元對應的語義關系，導致基于現有的BERT模型，獲取到的語句的語義表示的準確性較差，進而無法基于語句的語義表示，進行有效地NLP任務處理。

【發明內容】

本發明提供了一種語句的語義表示處理方法及裝置、計算機設備及可讀介質，用于提高語義表示的準確性，進而能夠高效地進行NLP任務的處理。

本發明提供一種語句的語義表示處理方法，所述方法包括：

獲取待分析的語句；

根據預先訓練的語義表示模型，獲取所述語句的、具有知識融合的語義表示；所述語義表示模型基于字粒度、詞語粒度以及實體粒度進行訓練得到。

本發明提供一種語句的語義表示處理裝置，所述裝置包括：

語句獲取模塊，用于獲取待分析的語句；

語義獲取模塊，用于根據預先訓練的語義表示模型，獲取所述語句的、具有知識融合的語義表示；所述語義表示模型基于字粒度、詞語粒度以及實體粒度進行訓練得到。

本發明還提供一種計算機設備，所述設備包括：

一個或多個處理器；

存儲器，用于存儲一個或多個程序；

當所述一個或多個程序被所述一個或多個處理器執行，使得所述一個或多個處理器實現如上所述的語句的語義表示處理方法。

本發明還提供一種計算機可讀介質，其上存儲有計算機程序，該程序被處理器執行時實現如上所述的語句的語義表示處理方法。