[發(fā)明專(zhuān)利]交互過(guò)程中智能識(shí)別并處理敏感內(nèi)容的方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 201710334441.9
• 申請(qǐng)日: 2017-05-12
• 公開(kāi)（公告）號(hào): CN107169092A
• 公開(kāi)（公告）日: 2017-09-15
• 發(fā)明（設(shè)計(jì)）人: 杜洪博;樊磊;王軍;方駿達(dá);汪鐵豐
• 申請(qǐng)（專(zhuān)利權(quán)）人: 暴風(fēng)體育（北京）有限責(zé)任公司
• 主分類(lèi)號(hào): G06F17/30
• 分類(lèi)號(hào): G06F17/30
• 代理公司: 北京晟睿智杰知識(shí)產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙)11603
• 代理人: 于淼

技術(shù)領(lǐng)域

本發(fā)明涉及網(wǎng)絡(luò)交互管理的技術(shù)領(lǐng)域，更具體地，涉及一種交互過(guò)程中智能識(shí)別并處理敏感內(nèi)容的方法及系統(tǒng)。

背景技術(shù)

隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，各種社交應(yīng)用程序(APP)、社交平臺(tái)的推出，社交聊天逐漸成為了人們常用的信息交互方式，但是社交過(guò)程中人員錯(cuò)綜復(fù)雜，聊天內(nèi)容也是各種各樣，聊天內(nèi)容多，為保證聊天質(zhì)量，社交系統(tǒng)需要屏蔽一些不文明或不合法的敏感詞匯或發(fā)廣告(即社交敏感內(nèi)容，也有的稱(chēng)其為黃版詞匯)。

目前，現(xiàn)有技術(shù)中通過(guò)將聊天詞匯與預(yù)設(shè)的黃版數(shù)據(jù)庫(kù)中詞匯對(duì)比搜索識(shí)別是否為黃版詞匯，如果發(fā)現(xiàn)有黃版詞匯，對(duì)其使用者的ID進(jìn)行屏蔽。但是，用戶(hù)如果采用其它形式詞匯替代存在于詞庫(kù)中的黃版詞匯，如將“8”替換為“八”的形式，就能繞過(guò)屏蔽，不能達(dá)到預(yù)期的黃版詞匯屏蔽的目的。而且網(wǎng)絡(luò)詞匯更新?lián)Q代如此之快，現(xiàn)有系統(tǒng)對(duì)新興的敏感內(nèi)容的自動(dòng)識(shí)別能力還不夠強(qiáng)，在數(shù)據(jù)庫(kù)中也不能智能地、及時(shí)地收錄這些新興的敏感詞匯內(nèi)容。

再者，中英文相結(jié)合的多個(gè)詞匯的組合就能得到各種不同的詞匯含義，對(duì)于如此之多的組合形式，采用現(xiàn)有的敏感詞匯庫(kù)匹配對(duì)比查詢(xún)敏感詞匯的方式難道較大且準(zhǔn)確性不高，還需要消耗較長(zhǎng)的匹配比對(duì)時(shí)間，執(zhí)行效率不高，不能夠全面地、準(zhǔn)確地改變現(xiàn)有敏感詞匯的使用和傳播。而誤操作屏蔽用戶(hù)之后的申訴過(guò)程又很復(fù)雜，對(duì)用戶(hù)造成很不好的使用體驗(yàn)。

因此，提供一種智能化、準(zhǔn)確度高、操作簡(jiǎn)便及效率高的交互過(guò)程中敏感內(nèi)容處理方案是本領(lǐng)域亟待解決的問(wèn)題。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明提供了一種交互過(guò)程中智能識(shí)別并處理敏感內(nèi)容的方法及系統(tǒng)，解決了現(xiàn)有技術(shù)中不能智能化集中處理交互過(guò)程中敏感內(nèi)容的技術(shù)問(wèn)題。

為了解決上述技術(shù)問(wèn)題，本發(fā)明提出一種交互過(guò)程中智能識(shí)別并處理敏感內(nèi)容的方法，包括：

接收預(yù)設(shè)敏感內(nèi)容，按照AC自動(dòng)機(jī)的機(jī)制將所述預(yù)設(shè)敏感內(nèi)容編譯成自動(dòng)機(jī)；將所述自動(dòng)機(jī)按照預(yù)設(shè)的關(guān)鍵字編碼的字符順序排列，并根據(jù)所述字符順序排列將所述自動(dòng)機(jī)構(gòu)建成自動(dòng)機(jī)搜索樹(shù)，并將所述自動(dòng)機(jī)搜索樹(shù)存儲(chǔ)至遠(yuǎn)程網(wǎng)絡(luò)請(qǐng)求服務(wù)平臺(tái)上；

接收客戶(hù)端的交互內(nèi)容，解析所述交互內(nèi)容得到交互字符，通過(guò)遠(yuǎn)程服務(wù)協(xié)議在所述自動(dòng)機(jī)搜索樹(shù)中逐字讀入所述交互字符，通過(guò)所述交互字符遍歷所述自動(dòng)機(jī)搜索樹(shù)得到所述交互內(nèi)容中的敏感內(nèi)容；

搜索所述客戶(hù)端的歷史交互記錄，得到所述敏感內(nèi)容出現(xiàn)的次數(shù)，結(jié)合預(yù)先設(shè)置的敏感內(nèi)容處理策略，對(duì)所述客戶(hù)端執(zhí)行相應(yīng)的處理操作；

基于當(dāng)前的所述字符順序排列，根據(jù)所述敏感內(nèi)容更新所述自動(dòng)機(jī)搜索樹(shù)；

將更新后的所述自動(dòng)機(jī)搜索樹(shù)及所述敏感內(nèi)容對(duì)應(yīng)的處理策略存儲(chǔ)至所述遠(yuǎn)程網(wǎng)絡(luò)請(qǐng)求服務(wù)平臺(tái)上；

統(tǒng)計(jì)所述交互字符在交互過(guò)程中出現(xiàn)的次數(shù)，在所述交互字符在交互過(guò)程中出現(xiàn)的次數(shù)大于或等于敏感次數(shù)時(shí)，將所述交互字符反饋至管理端口；

接收所述管理端口的敏感內(nèi)容指令，并根據(jù)所述敏感內(nèi)容指令將所述交互字符更新至所述自動(dòng)機(jī)搜索樹(shù)中。

進(jìn)一步地，其中，所述敏感內(nèi)容處理策略，為：

所述敏感內(nèi)容出現(xiàn)次數(shù)小于或等于設(shè)定次數(shù)時(shí)，在交互界面中屏蔽該敏感內(nèi)容，并向所述客戶(hù)端發(fā)送警示消息；

所述敏感內(nèi)容出現(xiàn)次數(shù)大于設(shè)定次數(shù)且小于或等于設(shè)定次數(shù)閾值時(shí)，在交互界面中屏蔽該敏感內(nèi)容，并將所述客戶(hù)端屏蔽預(yù)設(shè)時(shí)間；

所述敏感內(nèi)容出現(xiàn)次數(shù)大于所述設(shè)定次數(shù)閾值時(shí)，在交互界面中屏蔽該敏感內(nèi)容，并屏蔽所述客戶(hù)端。

進(jìn)一步地，其中，所述設(shè)定次數(shù)，為一到三次；所述設(shè)定次數(shù)閾值，為三到五次。

進(jìn)一步地，其中，將所述自動(dòng)機(jī)按照預(yù)設(shè)的關(guān)鍵字編碼的字符順序排列，并根據(jù)所述字符順序排列將所述自動(dòng)機(jī)構(gòu)建成自動(dòng)機(jī)搜索樹(shù)，為：

根據(jù)預(yù)設(shè)的自動(dòng)機(jī)擴(kuò)展策略獲取所述自動(dòng)機(jī)對(duì)應(yīng)的擴(kuò)展自動(dòng)機(jī)；

將所述自動(dòng)機(jī)及其擴(kuò)展自動(dòng)機(jī)按照預(yù)設(shè)的關(guān)鍵字編碼的字符順序排列，并根據(jù)所述字符順序排列將所述自動(dòng)機(jī)構(gòu)建成自動(dòng)機(jī)搜索樹(shù)。

另一方面，本發(fā)明還提供一種交互過(guò)程中智能識(shí)別并處理敏感內(nèi)容的系統(tǒng)，包括：自動(dòng)機(jī)搜索樹(shù)創(chuàng)建模塊、敏感內(nèi)容獲取模塊、敏感內(nèi)容處理模塊、自動(dòng)機(jī)搜索樹(shù)更新模塊及敏感內(nèi)容處理策略存儲(chǔ)模塊；其中，

所述自動(dòng)機(jī)搜索樹(shù)創(chuàng)建模塊，用于與所述敏感內(nèi)容獲取模塊相連接，接收預(yù)設(shè)敏感內(nèi)容，按照AC自動(dòng)機(jī)的機(jī)制將所述預(yù)設(shè)敏感內(nèi)容編譯成自動(dòng)機(jī)；將所述自動(dòng)機(jī)按照預(yù)設(shè)的關(guān)鍵字編碼的字符順序排列，并根據(jù)所述字符順序排列將所述自動(dòng)機(jī)構(gòu)建成自動(dòng)機(jī)搜索樹(shù)，并將所述自動(dòng)機(jī)搜索樹(shù)存儲(chǔ)至遠(yuǎn)程網(wǎng)絡(luò)請(qǐng)求服務(wù)平臺(tái)上；