[發(fā)明專利]防止惡意信息的處理方法、裝置、服務(wù)器及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 201810543060.6
• 申請日: 2018-05-30
• 公開（公告）號: CN108900466A
• 公開（公告）日: 2018-11-27
• 發(fā)明（設(shè)計(jì)）人: 劉亞東;呂慶春;彭飛
• 申請（專利權(quán)）人: 北京五八信息技術(shù)有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 北京同立鈞成知識產(chǎn)權(quán)代理有限公司 11205
• 代理人: 楊貝貝;劉芳

本發(fā)明實(shí)施例提供一種防止惡意信息的處理方法、裝置、服務(wù)器及存儲介質(zhì)，該方法包括：接收客戶端發(fā)送的當(dāng)前消息；根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級；根據(jù)所述客戶端的風(fēng)險(xiǎn)等級對所述當(dāng)前消息進(jìn)行風(fēng)險(xiǎn)控制。該方法中，服務(wù)器根據(jù)客戶端發(fā)送消息的時(shí)間間隔，來確定客戶端的風(fēng)險(xiǎn)等級，并根據(jù)客戶端的風(fēng)險(xiǎn)等級采取與風(fēng)險(xiǎn)等級對應(yīng)的風(fēng)險(xiǎn)控制。每種風(fēng)險(xiǎn)等級代表了特定的危害程度，因此通過對不同的風(fēng)險(xiǎn)等級進(jìn)行相應(yīng)的風(fēng)險(xiǎn)控制，可以使得不同程度的危害都能得到有效的控制，從而保證通過客戶端發(fā)送消息的用戶無法發(fā)送惡意消息，進(jìn)而避免對接收消息的用戶造成影響。

技術(shù)領(lǐng)域

本發(fā)明實(shí)施例涉及計(jì)算機(jī)技術(shù)，尤其涉及一種防止惡意信息的處理方法、裝置、服務(wù)器及存儲介質(zhì)。

背景技術(shù)

隨著應(yīng)用程序(Application，簡稱APP)的不斷發(fā)展，APP所支持的功能越來越多，用戶量也越來越多。隨著APP的用戶量越來越多時(shí)，可能會(huì)出現(xiàn)有些用戶利用APP來發(fā)送垃圾信息、騷擾信息等惡意信息的情況，嚴(yán)重影響其他用戶對APP的使用感受。

現(xiàn)有技術(shù)中，當(dāng)某用戶連續(xù)發(fā)送惡意信息時(shí)，APP會(huì)提示該用戶停止發(fā)送惡意信息。

但是，現(xiàn)有技術(shù)的方法無法有效阻止這些用戶發(fā)送惡意信息的行為。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供一種防止惡意信息的處理方法、裝置、服務(wù)器及存儲介質(zhì)，用于解決現(xiàn)有技術(shù)中無法有效阻止這些用戶發(fā)送惡意信息的行為的問題。

本發(fā)明實(shí)施例第一方面提供一種防止惡意信息的處理方法，包括：

接收客戶端發(fā)送的當(dāng)前消息；

根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級；

根據(jù)所述客戶端的風(fēng)險(xiǎn)等級對所述當(dāng)前消息進(jìn)行風(fēng)險(xiǎn)控制。

進(jìn)一步的，所述根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級，包括：

若所述當(dāng)前消息的接收時(shí)間距離上一次接收所述客戶端發(fā)送消息的時(shí)間間隔高于閾值，則將所述客戶端的風(fēng)險(xiǎn)等級確定為初級風(fēng)險(xiǎn)。

進(jìn)一步的，所述根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級，還包括：

若所述當(dāng)前消息的接收時(shí)間距離上一次接收所述客戶端發(fā)送消息的時(shí)間間隔低于所述閾值，則根據(jù)所述客戶端連續(xù)低于所述閾值發(fā)送消息的次數(shù)確定所述客戶端的風(fēng)險(xiǎn)等級，所述風(fēng)險(xiǎn)等級隨著所述次數(shù)的增加而提高。

進(jìn)一步的，所述根據(jù)所述客戶端的風(fēng)險(xiǎn)等級對所述當(dāng)前消息進(jìn)行風(fēng)險(xiǎn)控制，包括：

根據(jù)所述風(fēng)險(xiǎn)等級由低至高的順序，對所述當(dāng)前消息進(jìn)行轉(zhuǎn)發(fā)、標(biāo)記惡意標(biāo)簽、攔截操作或禁止所述客戶端發(fā)送消息。

進(jìn)一步的，所述根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級之后，還包括：

確定所述當(dāng)前消息所包含的敏感信息；

根據(jù)所述當(dāng)前消息所包含的敏感信息以及接收到所述客戶端發(fā)送的歷史消息的敏感信息，更新所述客戶端的風(fēng)險(xiǎn)等級。

本發(fā)明實(shí)施例第二方面提供一種防止惡意信息的處理裝置，包括：

接收模塊，用于接收客戶端發(fā)送的當(dāng)前消息；

第一確定模塊，用于根據(jù)所述當(dāng)前消息的接收時(shí)間以及接收到所述客戶端發(fā)送的歷史消息的時(shí)間，確定所述客戶端的風(fēng)險(xiǎn)等級；

控制模塊，用于根據(jù)所述客戶端的風(fēng)險(xiǎn)等級對所述當(dāng)前消息進(jìn)行風(fēng)險(xiǎn)控制。