[發明專利]惡意消息識別方法、裝置、設備和計算機存儲介質

在審

• 申請號: 201710344549.6
• 申請日: 2017-05-16
• 公開（公告）號: CN107181745A
• 公開（公告）日: 2017-09-19
• 發明（設計）人: 趙豪
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 北京博思佳知識產權代理有限公司11415
• 代理人: 王茹

技術領域

本申請涉及互聯網技術領域，尤其涉及惡意消息識別方法、裝置、設備和計算機存儲介質。

背景技術

隨著互聯網技術的快速發展，各種通訊系統的發明大大方便了用戶之間的相互交流。各用戶之間可以利用電子設備建立通信網絡連接，并可以傳遞包括有文字、圖像、語音或視頻等等的通訊消息。

然而，隨之而來的惡意消息也急劇泛濫，大量的惡意消息給用戶帶來了困擾。例如，惡意消息中往往攜帶不法分子的聯系信息，以誘導用戶訪問某個釣魚鏈接，以聯系不法分子、查詢不法信息、下載木馬或轉賬等。

目前，越來越多的服務方提供惡意消息識別服務。相關技術中的一種方案，可以將消息中的鏈接內容發送到服務端，服務端通過訪問該鏈接或下載對應的木馬等方式，以分析該鏈接是否惡意，進而分析該消息是否是惡意消息。

但該方案可能存在的問題有：惡意消息中的鏈接可能在傳播之后的短時間內即失效，失效后服務端可能無法獲取相應的信息；惡意消息中的鏈接可能根據訪問者的IP信息、訪問者使用的設備信息、訪問者訪問的時間等進行針對性的隱藏，使得服務端訪問時該鏈接正常，但用戶訪問該鏈接時中招。另外，惡意鏈接中對應的木馬可能通過加殼、下載攻擊代碼等方式繞過現有的木馬檢測引擎。因此，如何快速有效識別惡意消息成為亟需解決的問題。

發明內容

為克服相關技術中存在的問題，本申請提供了惡意消息識別方法、裝置、設備和計算機存儲介質方法。

一種惡意消息識別方法，所述方法包括：

獲取待識別消息；

獲取所述待識別消息的目標特征，所述目標特征至少包括四類特征：消息發送方特征、消息接收方特征、消息內容特征和消息傳播特征；

將所獲取的目標特征輸入至預設的惡意消息識別模型，利用所述惡意消息識別模型識別出所述待識別消息是否為惡意消息。

可選的，所述消息發送方特征包括如下一種或多種特征：

消息發送方的賬號相關特征；

消息發送方的聯系方式特征；

消息發送方的注冊信息相關特征；

指示所述消息發送方是否關聯有預設標簽的特征，所述預設標簽包括如下一種或多種標簽：批量注冊的垃圾賬戶、實名賬戶、被投訴過的賬戶、登記有發送過惡意消息記錄或發送過惡意行為。

可選的，所述消息接收方特征包括如下一種或多種特征：

指示所述消息接收方的位置是否與所述消息接收方關聯的其他消息接收方在同一地區的特征；

指示所述消息接收方是否與所述其他消息接收方同屬于預設組織的特征；

指示所述消息接收方是否與所述其他消息接收方具有相同行為的特征。

可選的，所述消息內容歷史特征包括如下一種或多種特征：

指示所述消息內容是否為歷史出現內容的特征；

指示所述消息內容是否為已被識別為惡意消息內容的特征；

指示所述消息內容是否為已被舉報為惡意消息內容的特征。

可選的，所述消息傳播特征包括如下一種或多種特征：

所述待識別消息以及與所述待識別消息關聯的其他消息傳播過程的速度特征；

所述待識別消息以及與所述其他消息傳播過程的發散特征；

所述待識別消息以及與所述其他消息傳播過程的周期特征；

可選的，所述惡意消息識別模型是利用樣本數據對機器學習模型訓練得到的。

一種惡意消息識別裝置，所述裝置包括：

消息獲取模塊，用于：獲取待識別消息；

特征獲取模塊，用于：獲取所述待識別消息的目標特征，所述目標特征至少包括四類特征：消息發送方特征、消息接收方特征、消息內容特征和消息傳播特征；

識別模塊，用于：將所獲取的目標特征輸入至預設的惡意消息識別模型，利用所述惡意消息識別模型識別出所述待識別消息是否為惡意消息。

可選的，所述消息發送方特征包括如下一種或多種特征：

消息發送方的賬號相關特征；

消息發送方的聯系方式特征；

消息發送方的注冊信息相關特征；

指示所述消息發送方是否關聯有預設標簽的特征，所述預設標簽包括如下一種或多種標簽：批量注冊的垃圾賬戶、實名賬戶、被投訴過的賬戶、登記有發送過惡意消息記錄或發送過惡意行為。

可選的，所述消息接收方特征包括如下一種或多種特征：

指示所述消息接收方的位置是否與所述消息接收方關聯的其他消息接收方在同一地區的特征；

指示所述消息接收方是否與所述其他消息接收方同屬于預設組織的特征；