[發明專利]敏感文本檢測方法、系統、電子設備及介質

在審

• 申請號: 202010124083.0
• 申請日: 2020-02-27
• 公開（公告）號: CN111339768A
• 公開（公告）日: 2020-06-26
• 發明（設計）人: 范博;王樂;陳宇;周海剛
• 申請（專利權）人: 攜程旅游網絡技術（上海）有限公司
• 主分類號: G06F40/284
• 分類號: G06F40/284;G06F40/30;G06N3/04;G06N3/08
• 代理公司: 上海弼興律師事務所 31283
• 代理人: 薛琦;張冉

1.一種敏感文本檢測方法，其特征在于，所述敏感文本檢測方法包括：

至少一用戶終端分別利用正則表達式對各自對應的檢測文本進行敏感詞匹配，并分別得到對應的預敏感文本；

將所述預敏感文本分別輸入至對應的訓練后的深度學習模型進行預測，并得到對應的確定敏感文本。

2.如權利要求1所述的敏感文本檢測方法，其特征在于，所述敏感文本檢測方法還包括分別對所述深度學習模型進行訓練的步驟；

訓練的步驟包括：

在所述將所述預敏感文本分別輸入至對應的訓練后的深度學習模型進行預測的步驟之前，

訓練原始的所述深度學習模型得到預訓練模型；

分別根據用戶終端的樣本文本對所述預訓練模型進行fine-tuning訓練，得到對應的所述訓練后的深度學習模型。

3.如權利要求1所述的敏感文本檢測方法，其特征在于，所述深度學習模型包括RNN模型和CNN模型，所述將所述預敏感文本分別輸入至對應的訓練后的深度學習模型進行預測的步驟包括：

將對應的所述預敏感文本分別輸入所述RNN模型和所述CNN模型；

將所述RNN模型和所述CNN模型通過模型融合方法對所述預敏感文本處理，得到對應的所述確定敏感文本。

4.如權利要求3所述的敏感文本檢測方法，其特征在于，所述RNN模型和所述CNN模型通過模型融合方法對所述預敏感文本處理的步驟包括：

利用所述RNN模型的特征提取層輸出第一語義特征，利用所述CNN模型的特征提取層輸出第二語義特征；

將所述第一語義特征和所述第二語義特征通過所述RNN模型和所述CNN模型的拼接層進行拼接；

將拼接后的結果輸入至所述RNN模型和所述CNN模型的全連接層，所述全連接層輸出所述預敏感文本的預測概率；

根據所述預測概率得到所述確定敏感文本。

5.一種敏感文本檢測系統，其特征在于，所述敏感文本檢測系統包括預檢測模塊和確定模塊；

所述預檢測模塊用于利用正則表達式對檢測文本進行敏感詞匹配得到預敏感文本；

所述確定模塊用于將所述預敏感文本分別輸入至對應的訓練后的深度學習模型進行預測，并得到對應的確定敏感文本。

6.如權利要求5所述的敏感文本檢測系統，其特征在于，所述敏感文本檢測系統還包括訓練模塊；

所述訓練模塊用于訓練原始的所述深度學習模型得到預訓練模型；還用于分別根據用戶終端的樣本文本對所述預訓練模型進行fine-tuning訓練，并得到對應的所述訓練后的深度學習模型。

7.如權利要求5所述的敏感文本檢測系統，其特征在于，所述深度學習模型包括RNN模型和CNN模型，所述確定模塊還用于將對應的所述預敏感文本分別輸入所述RNN模型和所述CNN模型，并將所述RNN模型和所述CNN模型通過模型融合方法對所述預敏感文本處理，得到對應的所述確定敏感文本。

8.如權利要求7所述的敏感文本檢測系統，其特征在于，所述確定模塊還用于通過所述RNN模型的特征提取層輸出第一語義特征，并通過所述CNN模型的特征提取層輸出第二語義特征；

將所述第一語義特征和所述第二語義特征通過所述RNN模型和所述CNN模型的拼接層進行拼接；

將拼接后的結果輸入至所述RNN模型和所述CNN模型的全連接層，所述全連接層輸出所述預敏感文本的預測概率；

根據所述預測概率得到所述確定敏感文本。

9.一種電子設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現權利要求1-4中任一項所述的敏感文本檢測方法。

10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現權利要求1-4中任一項所述的敏感文本檢測方法的步驟。