[發明專利]文本處理方法、裝置、計算機設備及存儲介質

在審

• 申請號: 202111350341.8
• 申請日: 2021-11-15
• 公開（公告）號: CN114091444A
• 公開（公告）日: 2022-02-25
• 發明（設計）人: 李良斌;陳孝良
• 申請（專利權）人: 北京聲智科技有限公司
• 主分類號: G06F40/284
• 分類號: G06F40/284;G06N3/04;G06N3/08;G10L13/08
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 王靜

1.一種文本處理方法，其特征在于，所述方法包括：

獲取韻律標注模型，所述韻律標注模型包括第一識別網絡和標注網絡，所述第一識別網絡具備識別任一文本中的每個詞語的功能，所述標注網絡用于訓練標注任一文本中至少一個詞語的韻律標簽；

基于多個第一樣本數據，訓練所述韻律標注模型，所述第一樣本數據包括第一文本及所述第一文本中每個詞語的韻律標簽；

調用訓練后的所述韻律標注模型，分別對多個第二文本進行標注，得到多個第二樣本數據，所述第二樣本數據包括第二文本及所述第二文本中每個詞語的韻律標簽，所述多個第一樣本數據的數量小于所述多個第二樣本數據的數量；

基于所述多個第二樣本數據，訓練韻律預測模型。

2.根據權利要求1所述的方法，其特征在于，所述基于多個第一樣本數據，訓練所述韻律標注模型，包括：

調用所述第一識別網絡，對所述第一樣本數據中的第一文本進行識別，得到所述第一文本中的多個詞語以及相鄰的每兩個詞語之間的關聯關系；

調用所述標注網絡，基于所述第一文本中相鄰的每兩個詞語之間的關聯關系，對所述第一文本中的多個詞語進行標注，得到所述第一文本中相鄰的每兩個詞語中第一個詞語的預測韻律標簽，以及所述第一文本中最后一個詞語的預測韻律標簽；

基于所述第一文本中每個詞語的韻律標簽以及預測韻律標簽，訓練所述韻律標注模型。

3.根據權利要求1所述的方法，其特征在于，所述調用訓練后的所述韻律標注模型，分別對多個第二文本進行標注，得到多個第二樣本數據，包括：

調用所述第一識別網絡，對所述第二文本進行識別，得到所述第二文本中的多個詞語及相鄰的每兩個詞語之間的關聯關系；

調用所述標注網絡，基于所述第二文本中相鄰的每兩個詞語之間的關聯關系，對所述第二文本中的多個詞語進行標注，得到所述第二文本對應的第二樣本數據。

4.根據權利要求1所述的方法，其特征在于，所述基于所述多個第二樣本數據，訓練韻律預測模型之后，所述方法還包括：

調用訓練后的所述韻律預測模型，對第三文本進行處理，得到所述第三文本中每個詞語的韻律標簽。

5.根據權利要求4所述的方法，其特征在于，訓練后的所述韻律預測模型包括第二識別網絡和韻律預測網絡，所述第二識別網絡具備識別任一文本中的每個詞語以及相鄰的每兩個詞語之間的關聯關系的功能，所述韻律預測網絡具備預測任一文本中至少一個詞語的韻律標簽的功能；

所述調用訓練后的所述韻律預測模型，對第三文本進行處理，得到所述第三文本中每個詞語的韻律標簽，包括：

調用所述第二識別網絡，對所述第三文本進行處理，得到所述第三文本中的多個詞語及相鄰的每兩個詞語之間的關聯關系；

調用所述韻律預測網絡，基于所述第三文本中相鄰的每兩個詞語之間的關聯關系，對所述第三文本中的多個詞語進行韻律預測，得到所述第三文本中相鄰的每兩個詞語中第一個詞語的韻律標簽，以及所述第三文本中最后一個詞語的韻律標簽。

6.根據權利要求5所述的方法，其特征在于，所述第二識別網絡至少為長短時記憶網絡或雙向長短時記憶網絡中的任一種。

7.根據權利要求4所述的方法，其特征在于，所述調用訓練后的所述韻律預測模型，對第三文本進行處理，得到所述第三文本中每個詞語的韻律標簽之后，所述方法還包括：

基于所述第三文本和所述第三文本中每個詞語的韻律標簽，對所述第三文本進行語音合成，得到所述第三文本對應的語音。

8.根據權利要求1-7任一項所述的方法，其特征在于，所述韻律標簽至少包括第一標簽和第二標簽，所述第一標簽指示所述詞語與所述詞語的下一個詞語之間沒有停頓，所述第二標簽指示所述詞語與所述詞語的下一個詞語之間存在停頓，以及所述詞語與所述詞語的下一個詞語之間的停頓時長。

9.根據權利要求1-7任一項所述的方法，其特征在于，所述第一識別網絡為基于變換器的雙向編碼器表征BERT網絡。