[發明專利]訓練語句復述模型的方法、語句復述方法及其裝置

在審

• 申請號: 201911061874.7
• 申請日: 2019-11-01
• 公開（公告）號: CN112784003A
• 公開（公告）日: 2021-05-11
• 發明（設計）人: 郭寅鵬;廖億;蔣欣;張晴;張軼博;劉群
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/332;G06F40/30;G06F40/58
• 代理公司: 北京龍雙利達知識產權代理有限公司 11329
• 代理人: 陳洪艷;王君

本申請涉及人工智能領域中的自然語言處理技術，提供了一種訓練語句復述模型的方法、語句復述方法及其裝置。該訓練語句復述模型的方法包括：獲取訓練數據，所述訓練數據包括多個語句，所述多個語句的語種不同，且所述多個語句具有相同含義；根據所述訓練數據，訓練語句復述模型，所述語句復述模型用于基于輸入語句生成所述輸入語句的復述語句。本申請實施例中的訓練語句復述模型的方法，能夠便捷地獲得復述語句。

技術領域

本申請涉及人工智能領域，并且更具體地，涉及訓練語句復述模型的方法、語句復述方法及其裝置。

背景技術

人工智能(artificial intelligence,AI)是利用數字計算機或者數字計算機控制的機器模擬、延伸和擴展人的智能，感知環境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及應用系統。換句話說，人工智能是計算機科學的一個分支，它企圖了解智能的實質，并生產出一種新的能以人類智能相似的方式作出反應的智能機器。人工智能也就是研究各種智能機器的設計原理與實現方法，使機器具有感知、推理與決策的功能。

隨著人工智能技術的不斷發展，讓人機之間能夠通過自然語言進行交互的自然語言人機交互系統變的越來越重要。人機之間能夠通過自然語言進行交互，就需要系統能夠識別出人類自然語言的具體含義。通常，系統通過采用對自然語言的句子進行關鍵信息提取來識別句子的具體含義。

復述(paraphrase)是指對于語句進行相同語義的不同表達，復述在自然語言中非常普遍，在自然語言處理(natural language processing，NLP)領域里，復述也得到了越來越廣泛的應用。因此，如何獲得復述語句成為一個亟需解決的技術問題。

發明內容

本申請提供一種訓練語句復述模型的方法、語句復述方法及其裝置，能夠便捷地獲得復述語句。

第一方面，提供了一種訓練語句復述模型的方法，該方法包括：獲取訓練數據，所述訓練數據包括多個語句，所述多個語句的語種不同，且所述多個語句具有相同含義；根據所述訓練數據，訓練語句復述模型，所述語句復述模型用于基于輸入語句生成所述輸入語句的復述語句，所述復述語句與所述輸入語句具有相同含義，所述復述語句的語種與所述輸入語句的語種相同或不同。

在本申請實施例中，所述訓練數據包括語種不同、且具有相同含義的多個語句，直接使用該訓練數據訓練語句復述模型，而并不依賴復述語句對語料對語句復述模型進行訓練，可以降低訓練語句復述模型的成本，從而能夠便捷地獲得復述語句。

需要說明的是，在實際中，往往需要通過人工校準才能得到高質量的復述語句對語料，因此，會導致訓練語句復述模型的成本較高。

可選地，所述語句復述模型可以為語言模型。

例如，所述語句復述模型可以為Transformer語言模型、CNN語言模型或RNN語言模型等，或者，所述語句復述模型也可以為其他深度學習的語言模型，本申請實施例對此并不限定。

可選地，所述訓練數據可以包括一個語句、及該語句對應的不同語種的一個或多個譯文。

可選地，所述訓練數據包括的多個語句可以為機器翻譯語料中的語句。需要說明的是，這里所說的機器翻譯語料庫可以為多語種平行語料，例如，雙語平行(中英文)的機器翻譯語料。

例如，所述訓練數據可以包括一個中文語句、及該中文語句對應的英文譯文。

可選地，所述訓練數據還可以包括語種類型指示信息。其中，所述語種類型指示信息可以為中文類型指示信息、英文類型指示信息或法文類型指示信息等。

例如，所述訓練數據包括中文語句及該中文語句對應的英文譯文拼接成的序列時，在該序列中，所述中文語句的前面可以包括中文類型指示信息，該中文類型指示信息可以指示其后的語句為中文語句，比如，該中文類型指示信息可以為“zh”。