[發明專利]詞匯預測方法、裝置、設備和計算機可讀存儲介質

有效

• 申請號: 201811523569.0
• 申請日: 2018-12-13
• 公開（公告）號: CN109657071B
• 公開（公告）日: 2020-12-01
• 發明（設計）人: 萬月亮;李強;火一莽
• 申請（專利權）人: 北京銳安科技有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F40/284;G06F40/216
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種詞匯預測方法，其特征在于，包括：

獲取同一領域的多個連續時間節點的預測樣本文本，每個時間節點表示一個時間點；

分別對所述多個連續時間節點的預測樣本文本進行分詞處理，得到多個預測樣本詞匯序列；

對所述多個預測樣本詞匯序列進行編碼，得到多個預測樣本詞匯向量序列；

依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，對詞匯預測模型進行訓練，得到詞匯預測模型，所述詞匯預測模型表示輸入X個連續詞匯向量后不同目標詞匯的出現概率；

將待預測文本輸入所述詞匯預測模型，得到詞匯預測結果。

2.根據權利要求1所述的方法，其特征在于，所述分別對所述多個連續時間節點的預測樣本文本進行分詞處理，得到多個預測樣本詞匯序列，包括：

分別對所述多個連續時間節點的預測樣本文本進行分詞處理，并去除分詞處理后的停用詞，得到多個預測樣本詞匯序列。

3.根據權利要求1或2所述的方法，其特征在于，所述依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，對詞匯預測模型進行訓練，得到詞匯預測模型，包括：

依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，在所述后一個時間節點的預測樣本詞匯向量序列中以X個連續詞匯向量作為訓練窗口，滑動所述訓練窗口，對詞匯訓練模型進行訓練，得到詞匯預測模型。

4.根據權利要求1或2所述的方法，其特征在于，所述依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，對詞匯預測模型進行訓練，得到詞匯預測模型之后，所述方法還包括：

優化所述詞匯預測模型，以使所述詞匯預測模型的輸出平均概率最高。

5.根據權利要求1或2所述的方法，其特征在于，所述對所述多個預測樣本詞匯序列進行編碼，得到多個預測樣本詞匯向量序列，包括：

利用one-hot編碼方式對所述多個預測樣本詞匯序列進行編碼，得到多個預測樣本詞匯編碼數據；

將所述多個預測樣本詞匯編碼數據分別與預設非稀疏矩陣相乘，得到得到多個預測樣本詞匯向量序列。

6.一種詞匯預測裝置，其特征在于，包括：

文本獲取模塊，用于獲取同一領域的多個連續時間節點的預測樣本文本，每個時間節點表示一個時間點；

詞匯獲取模塊，用于分別對所述多個連續時間節點的預測樣本文本進行分詞處理，得到多個預測樣本詞匯序列；

詞匯處理模塊，用于對所述多個預測樣本詞匯序列進行編碼，得到多個預測樣本詞匯向量序列；

模型訓練模塊，用于依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，對詞匯預測模型進行訓練，得到詞匯預測模型，所述詞匯預測模型表示輸入X個連續詞匯向量后不同目標詞匯的出現概率；

詞匯預測模塊，用于將待預測文本輸入所述詞匯預測模型，得到詞匯預測結果。

7.根據權利要求6所述的裝置，其特征在于，所述詞匯獲取模塊，具體用于分別對所述多個連續時間節點的預測樣本文本進行分詞處理，并去除分詞處理后的停用詞，得到多個預測樣本詞匯序列。

8.根據權利要求6或7所述的裝置，其特征在于，所述模型訓練模塊，具體用于依次以前一個時間節點的預測樣本詞匯向量序列中的X個連續詞匯向量作為預測輸入，以后一個時間節點的預測樣本詞匯向量序列中的詞匯作為目標詞匯，在所述后一個時間節點的預測樣本詞匯向量序列中以X個連續詞匯向量作為訓練窗口，滑動所述訓練窗口，對詞匯訓練模型進行訓練，得到詞匯預測模型。