[發明專利]交互過程中智能識別并處理敏感內容的方法及系統

在審

• 申請號: 201710334441.9
• 申請日: 2017-05-12
• 公開（公告）號: CN107169092A
• 公開（公告）日: 2017-09-15
• 發明（設計）人: 杜洪博;樊磊;王軍;方駿達;汪鐵豐
• 申請（專利權）人: 暴風體育（北京）有限責任公司
• 主分類號: G06F17/30
• 分類號: G06F17/30
• 代理公司: 北京晟睿智杰知識產權代理事務所(特殊普通合伙)11603
• 代理人: 于淼

1.一種交互過程中智能識別并處理敏感內容的方法，其特征在于，包括：

接收預設敏感內容，按照AC自動機的機制將所述預設敏感內容編譯成自動機；將所述自動機按照預設的關鍵字編碼的字符順序排列，并根據所述字符順序排列將所述自動機構建成自動機搜索樹，并將所述自動機搜索樹存儲至遠程網絡請求服務平臺上；

接收客戶端的交互內容，解析所述交互內容得到交互字符，通過遠程服務協議在所述自動機搜索樹中逐字讀入所述交互字符，通過所述交互字符遍歷所述自動機搜索樹得到所述交互內容中的敏感內容；

搜索所述客戶端的歷史交互記錄，得到所述敏感內容出現的次數，結合預先設置的敏感內容處理策略，對所述客戶端執行相應的處理操作；

基于當前的所述字符順序排列，根據所述敏感內容更新所述自動機搜索樹；

將更新后的所述自動機搜索樹及所述敏感內容對應的處理策略存儲至所述遠程網絡請求服務平臺上；

統計所述交互字符在交互過程中出現的次數，在所述交互字符在交互過程中出現的次數大于或等于敏感次數時，將所述交互字符反饋至管理端口；

接收所述管理端口的敏感內容指令，并根據所述敏感內容指令將所述交互字符更新至所述自動機搜索樹中。

2.根據權利要求1所述的交互過程中智能識別并處理敏感內容的方法，其特征在于，所述敏感內容處理策略，進一步為：

所述敏感內容出現次數小于或等于設定次數時，在交互界面中屏蔽該敏感內容，并向所述客戶端發送警示消息；

所述敏感內容出現次數大于設定次數且小于或等于設定次數閾值時，在交互界面中屏蔽該敏感內容，并將所述客戶端屏蔽預設時間；

所述敏感內容出現次數大于所述設定次數閾值時，在交互界面中屏蔽該敏感內容，并屏蔽所述客戶端。

3.根據權利要求2所述的交互過程中智能識別并處理敏感內容的方法，其特征在于，所述設定次數，進一步為一到三次；所述設定次數閾值，進一步為三到五次。

4.根據權利要求1所述的交互過程中智能識別并處理敏感內容的方法，其特征在于，將所述自動機按照預設的關鍵字編碼的字符順序排列，并根據所述字符順序排列將所述自動機構建成自動機搜索樹，進一步為：

根據預設的自動機擴展策略獲取所述自動機對應的擴展自動機；

將所述自動機及其擴展自動機按照預設的關鍵字編碼的字符順序排列，并根據所述字符順序排列將所述自動機構建成自動機搜索樹。

5.一種交互過程中智能識別并處理敏感內容的系統，其特征在于，包括：自動機搜索樹創建模塊、敏感內容獲取模塊、敏感內容處理模塊、自動機搜索樹更新模塊及敏感內容處理策略存儲模塊；其中，

所述自動機搜索樹創建模塊，用于與所述敏感內容獲取模塊相連接，接收預設敏感內容，按照AC自動機的機制將所述預設敏感內容編譯成自動機；將所述自動機按照預設的關鍵字編碼的字符順序排列，并根據所述字符順序排列將所述自動機構建成自動機搜索樹，并將所述自動機搜索樹存儲至遠程網絡請求服務平臺上；

所述敏感內容獲取模塊，用于與所述自動機搜索樹創建模塊及敏感內容處理模塊相連接，接收客戶端的交互內容，解析所述交互內容得到交互字符，通過遠程服務協議在所述自動機搜索樹中逐字讀入所述交互字符，通過所述交互字符遍歷所述自動機搜索樹得到所述交互內容中的敏感內容；

所述敏感內容處理模塊，用于與所述敏感內容獲取模塊及自動機搜索樹更新模塊相連接，搜索所述客戶端的歷史交互記錄，得到所述敏感內容出現的次數，結合預先設置的敏感內容處理策略，對所述客戶端執行相應的處理操作；

所述自動機搜索樹更新模塊，用于與所述敏感內容處理模塊及敏感內容處理策略存儲模塊相連接，基于當前的所述字符順序排列，根據所述敏感內容更新所述自動機搜索樹；

所述敏感內容處理策略存儲模塊，用于與所述自動機搜索樹更新模塊相連接，將更新后的所述自動機搜索樹及所述敏感內容對應的處理策略存儲至所述遠程網絡請求服務平臺上；

進一步包括：預設敏感內容更新模塊，用于與所述自動機搜索樹創建模塊相連接，統計所述交互字符在交互過程中出現的次數，在所述交互字符在交互過程中出現的次數大于或等于敏感次數時，將所述交互字符反饋至管理端口；

接收所述管理端口的敏感內容指令，并根據所述敏感內容指令將所述交互字符更新至所述自動機搜索樹中。