[發明專利]基于多個預測模型的標點符號預測方法及相關設備

有效

• 申請號: 201910515571.1
• 申請日: 2019-06-14
• 公開（公告）號: CN110413987B
• 公開（公告）日: 2023-05-30
• 發明（設計）人: 李秀豐
• 申請（專利權）人: 平安科技（深圳）有限公司
• 主分類號: G06F40/205
• 分類號: G06F40/205;G06N3/0464
• 代理公司: 北京市京大律師事務所 11321
• 代理人: 高茹

本申請涉及人工智能領域，本申請公開了一種基于多個預測模型的標點符號預測方法及相關設備，所述方法包括：構建三個標點符號預測模型，將待預測文本分別輸入三個標點符號預測模型，根據三個標點符號預測模型的預測結果進行分析，并根據分析結果進行預測輸出。本申請通過使用雙向遞歸神經網絡進行標點預測，并結合關鍵詞匹配和語音停頓預測模型，可以有效的提高標點符號預測準確度。

技術領域

本申請涉及人工智能領域，特別涉及一種基于多個預測模型的標點符號預測方法及相關設備。

背景技術

標點預測屬于語音識別的后處理技術領域，即在將語音轉換成文字之后，需要對轉換出來的文字進行后處理，優化語音識別產品的用戶體驗，主要包括口語順滑、標點預測和逆文本化。在得到初始的轉譯文本之后，是一整句的話，沒有標點符號，用戶體驗比較差。但是，在經過了標點預測之后，會輸出帶標點符號的句子，會很大的提升用戶體驗。

目前的標點符號預測都是基于關鍵詞匹配和語音停頓的長短來進行標點符號的預測，沒有包含上下文信息，預測錯誤率高。

發明內容

本申請的目的在于針對現有技術的不足，提供一種基于多個預測模型的標點符號預測方法及相關設備，通過使用雙向遞歸神經網絡進行標點預測，并結合關鍵詞匹配和語音停頓預測模型，可以有效的提高標點符號預測準確度。

為達到上述目的，本申請的技術方案提供一種基于多個預測模型的標點符號預測方法及相關設備。

本申請公開了一種基于多個預測模型的標點符號預測方法，包括以下步驟：

構建第一標點符號預測模型、第二標點符號預測模型及第三標點符號預測模型，并分別為所述第一標點符號預測模型、第二標點符號預測模型及第三標點符號預測模型預先配置預測概率權重；

獲取待預測文本，將所述待預測文本輸入所述第一標點符號預測模型，獲取所述第一標點符號預測模型的預測結果；

將所述待預測文本輸入所述第二標點符號預測模型，獲取所述第二標點符號預測模型的預測結果；

將所述待預測文本輸入所述第三標點符號預測模型，獲取所述第三標點符號預測模型的預測結果；

根據所述第一標點符號預測模型、第二標點符號預測模型及第三標點符號預測模型的預測結果及預測概率權重進行所述待預測文本的標點符號的預測。

較佳地，所述構建第一標點符號預測模型、第二標點符號預測模型及第三標點符號預測模型，包括：

構建雙向遞歸神經網絡標點符號預測模型、語音停頓標點符號預測模型及關鍵詞匹配標點符號預測模型，并在所述雙向遞歸神經網絡標點符號預測模型中創建注意力層，所述注意力層的注意力機制滿足公式：

其中，α_ij＝softmax(v_a^Ttanh(W_as_i-1+U_ah_j))，v_a^T為注意力矩陣，W_a為過往時刻的隱含層激活矩陣，s_i-1為過往時刻的隱含層激活的輸出，U_a為當前時刻的隱含層輸出矩陣，h_j為當前時刻的隱含層輸出，α_ij為注意力層的激活的輸出，c_i為經過注意力機制的輸出層輸出。

較佳地，所述將所述待預測文本輸入所述第一標點符號預測模型，獲取所述第一標點符號預測模型的預測結果，包括：

將所述待預測文本輸入雙向遞歸神經網絡標點符號預測模型，獲取所述雙向遞歸神經網絡標點符號預測模型的預測項及與所述預測項對應的預測概率；