[發明專利]用于增強已標注樣本的方法和設備

有效

• 申請號: 201911202165.6
• 申請日: 2019-11-29
• 公開（公告）號: CN110991181B
• 公開（公告）日: 2023-03-31
• 發明（設計）人: 康戰輝
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F40/289
• 分類號: G06F40/289;G06F40/30
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 孫之剛;閆小龍

本文描述了一種用于增強已標注樣本的方法和設備。所述方法包括：從用于訓練語義匹配模型的已標注樣本的集合中選擇待增強樣本，已標注樣本包括第一查詢條目、第一文檔以及第一標簽，第一標簽表示所述第一查詢條目與第一文檔的相關程度；對第一查詢條目進行分詞處理，以得到多個詞；基于所述多個詞對第一文檔中的至少一個詞進行替換以生成第二文檔；確定第二文檔的語言得分，并且基于所述語言得分確定表示第一查詢條目與第二文檔的相關程度的第二標簽；生成增強后的已標注樣本，其包括所述第一查詢條目、第二文檔以及第二標簽。

技術領域

本公開涉及自然語言處理的技術領域，具體地涉及用于增強已標注樣本的方法和設備。

背景技術

自然語言處理(Nature Language processing, NLP)是計算機科學領域與人工智能領域中的一個重要方向。它研究能實現人與計算機之間用自然語言進行有效通信的各種理論和方法。自然語言處理是一門融語言學、計算機科學、數學于一體的科學。因此，這一領域的研究將涉及自然語言，即人們日常使用的語言，所以它與語言學的研究有著密切的聯系。自然語言處理技術通常被使用在語義匹配模型中。語義匹配模型有著廣泛的使用，例如被使用在搜索引擎、智能問答、知識檢索、信息流推薦等系統中。

作為示例，當用戶在搜索引擎中輸入查詢條目時，通過后臺搜索引擎會返回與該查詢條目語義匹配相關性較高的一系列文檔，并按從語義匹配模型得到的語義匹配分數進行排序。語義匹配模型大多是基于機器學習模型來構建的，并且需要進行大量訓練才能高效使用。要訓練該機器學習模型往往需要人工標注大量的訓練數據，但是人工標注訓練數據成本高且效率低。然而，如果標注的訓練數據不夠，會導致得到的機器學習模型存在一系列過擬合問題，從而無法得到較好的性能。

發明內容

有鑒于此，本公開提供了用于增強已標注樣本的方法和設備，期望克服上面提到的部分或全部缺陷以及其它可能的缺陷。

根據本公開的第一方面，提供了一種用于增強已標注樣本的方法，包括：從用于訓練語義匹配模型的已標注樣本的集合中選擇待增強樣本，所述已標注樣本包括第一查詢條目、第一文檔以及第一標簽，所述第一標簽表示所述第一查詢條目與第一文檔的相關程度；對所述待增強樣本中的第一查詢條目進行分詞處理，以得到多個詞；基于所述多個詞對所述待增強樣本中的第一文檔中的至少一個詞進行替換以生成第二文檔；確定所生成的第二文檔的語言得分，并且基于所述語言得分確定表示所述第一查詢條目與第二文檔的相關程度的第二標簽，所述語言得分表示第二文檔符合語言習慣的程度；以及，生成增強后的已標注樣本，所述增強后的已標注樣本包括所述第一查詢條目、所述第二文檔以及第二標簽。

在一些實施例中，從用于訓練語義匹配模型的已標注樣本的集合中選擇待增強樣本可以包括：從所述已標注樣本的集合中選擇包括的第一標簽所表示的相關程度大于相關程度閾值的已標注樣本作為待增強樣本。

在一些實施例中，基于所述多個詞對所述待增強樣本中的第一文檔中的至少一個詞進行替換可以包括：確定所述多個詞中的重要詞；對所述待增強樣本中的第一文檔中與所述重要詞不同的至少一個詞進行替換。

在一些實施例中，確定所述多個詞中的重要詞包括：確定所述多個詞中每個詞的逆文檔頻率；將其逆文檔頻率大于逆文檔頻率閾值的詞確定為重要詞。

在一些實施例中，確定所述多個詞中的重要詞包括：確定所述多個詞中每個詞的逆文檔頻率和詞性；將其逆文檔頻率大于逆文檔頻率閾值、且其詞性與預定詞性相同的詞劃分為重要詞。

在一些實施例中，對所述待增強樣本中的第一文檔中與所述重要詞不同的至少一個詞進行替換可以包括對所述待增強樣本中的第一文檔中與查詢條目相同的部分所包括的與所述重要詞不同的至少一個詞進行替換。

在一些實施例中，對所述待增強樣本中的第一文檔中與所述重要詞不同的至少一個詞進行替換可以包括：使用不同于所述重要詞中的任一個的替換詞對所述與所述重要詞不同的至少一個詞進行替換。