[發明專利]文本處理模型的訓練、文本處理方法、裝置、設備和介質

在審

• 申請號: 202111175460.4
• 申請日: 2021-10-09
• 公開（公告）號: CN113919424A
• 公開（公告）日: 2022-01-11
• 發明（設計）人: 盧宇翔;黃世維
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06V10/764;G06V10/774;G06F16/35
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 王瑞云

本公開提供了文本處理模型的訓練、文本處理方法、裝置、設備和介質，涉及數據處理技術領域，具體為人工智能、智能搜索和深度學習技術領域。具體實現方案為：獲取訓練樣本，所述訓練樣本包括同一文檔提取的短文本和長文本；將所述短文本輸入第一文本處理模型，得到第一輸出，以及將所述長文本輸入第二文本處理模型，得到第二輸出；根據所述第一輸出和所述第二輸出，計算一致性損失，并調整參數共享的所述第一文本處理模型的參數和所述第二文本處理模型的參數。本公開實施例可以提高文本處理模型準確率，提高文本處理模型的處理效率。

技術領域

本公開涉及數據處理技術領域，具體為人工智能、智能搜索和深度學習技術領域，尤其涉及文本處理模型的訓練、文本處理方法、裝置、設備和介質。

背景技術

如今的互聯網已經成為日常生活中最重要的信息來源，通過對信息進行處理可以快速找到目標。

在搜索領域，給定一個查詢文本，通常會考慮通過模型將該查詢文本與候選集合網頁的標題、內容文本進行匹配打分，將打分高的網頁排在前面。

發明內容

本公開提供了一種文本處理模型的訓練、文本處理方法、裝置、設備和介質。

根據本公開的一方面，提供了一種文本處理模型的訓練方法，包括：

獲取訓練樣本，所述訓練樣本包括同一文檔提取的短文本和長文本；

將所述短文本輸入第一文本處理模型，得到第一輸出，以及將所述長文本輸入第二文本處理模型，得到第二輸出；

根據所述第一輸出和所述第二輸出，計算一致性損失，并調整參數共享的所述第一文本處理模型的參數和所述第二文本處理模型的參數。

根據本公開的一方面，還提供了一種文本處理方法，包括：

將待處理文本輸入至文本處理模型中，得到文本處理結果；

其中，所述文本處理模型是根據如本公開任一項實施例所述的文本處理模型的訓練方法訓練得到。

根據本公開的一方面，提供了一種文本處理模型的訓練裝置，包括：

訓練樣本獲取模塊，用于獲取訓練樣本，所述訓練樣本包括同一文檔提取的短文本和長文本；

模型輸出獲取模塊，用于將所述短文本輸入第一文本處理模型，得到第一輸出，以及將所述長文本輸入第二文本處理模型，得到第二輸出；

第一參數調整模塊，用于根據所述第一輸出和所述第二輸出，計算一致性損失，并調整參數共享的所述第一文本處理模型的參數和所述第二文本處理模型的參數。

根據本公開的一方面，還提供了一種文本處理裝置，包括：

文本處理結果確定模塊，用于將待處理文本輸入至文本處理模型中，得到文本處理結果；其中，所述文本處理模型是根據如本公開任一項實施例所述的文本處理模型的訓練方法訓練得到。

根據本公開的另一方面，提供了一種電子設備，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被所述至少一個處理器執行，以使所述至少一個處理器能夠執行本公開任一實施例所述的文本處理模型的訓練方法，或執行本公開任一實施例所述的文本處理方法。

根據本公開的另一方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執行本公開任一實施例所述的文本處理模型的訓練方法，或執行本公開任一實施例所述的文本處理方法。