[發明專利]惡意消息識別方法、裝置、設備和計算機存儲介質

在審

• 申請號: 201710344549.6
• 申請日: 2017-05-16
• 公開（公告）號: CN107181745A
• 公開（公告）日: 2017-09-19
• 發明（設計）人: 趙豪
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 北京博思佳知識產權代理有限公司11415
• 代理人: 王茹

1.一種惡意消息識別方法，所述方法包括：

獲取待識別消息；

獲取所述待識別消息的目標特征，所述目標特征至少包括四類特征：消息發送方特征、消息接收方特征、消息內容特征和消息傳播特征；

將所獲取的目標特征輸入至預設的惡意消息識別模型，利用所述惡意消息識別模型識別出所述待識別消息是否為惡意消息。

2.根據權利要求1所述的方法，所述消息發送方特征包括如下一種或多種特征：

消息發送方的賬號相關特征；

消息發送方的聯系方式特征；

消息發送方的注冊信息相關特征；

指示所述消息發送方是否關聯有預設標簽的特征，所述預設標簽包括如下一種或多種標簽：批量注冊的垃圾賬戶、實名賬戶、被投訴過的賬戶、登記有發送過惡意消息記錄或發送過惡意行為。

3.根據權利要求1所述的方法，所述消息接收方特征包括如下一種或多種特征：

指示所述消息接收方的位置是否與所述消息接收方關聯的其他消息接收方在同一地區的特征；

指示所述消息接收方是否與所述其他消息接收方同屬于預設組織的特征；

指示所述消息接收方是否與所述其他消息接收方具有相同行為的特征。

4.根據權利要求1所述的方法，所述消息內容歷史特征包括如下一種或多種特征：

指示所述消息內容是否為歷史出現內容的特征；

指示所述消息內容是否為已被識別為惡意消息內容的特征；

指示所述消息內容是否為已被舉報為惡意消息內容的特征。

5.根據權利要求1所述的方法，所述消息傳播特征包括如下一種或多種特征：

所述待識別消息以及與所述待識別消息關聯的其他消息傳播過程的速度特征；

所述待識別消息以及與所述其他消息傳播過程的發散特征；

所述待識別消息以及與所述其他消息傳播過程的周期特征。

6.根據權利要求1所述的方法，所述惡意消息識別模型是利用樣本數據對機器學習模型訓練得到的。

7.一種惡意消息識別裝置，所述裝置包括：

消息獲取模塊，用于：獲取待識別消息；

特征獲取模塊，用于：獲取所述待識別消息的目標特征，所述目標特征至少包括四類特征：消息發送方特征、消息接收方特征、消息內容特征和消息傳播特征；

識別模塊，用于：將所獲取的目標特征輸入至預設的惡意消息識別模型，利用所述惡意消息識別模型識別出所述待識別消息是否為惡意消息。

8.根據權利要求7所述的裝置，所述消息發送方特征包括如下一種或多種特征：

消息發送方的賬號相關特征；

消息發送方的聯系方式特征；

消息發送方的注冊信息相關特征；

指示所述消息發送方是否關聯有預設標簽的特征，所述預設標簽包括如下一種或多種標簽：批量注冊的垃圾賬戶、實名賬戶、被投訴過的賬戶、登記有發送過惡意消息記錄或發送過惡意行為。

9.根據權利要求7所述的裝置，所述消息接收方特征包括如下一種或多種特征：

指示所述消息接收方的位置是否與所述消息接收方關聯的其他消息接收方在同一地區的特征；

指示所述消息接收方是否與所述其他消息接收方同屬于預設組織的特征；

指示所述消息接收方是否與所述其他消息接收方具有相同行為的特征。

10.根據權利要求7所述的裝置，所述消息內容歷史特征包括如下一種或多種特征：

指示所述消息內容是否為歷史出現內容的特征；

指示所述消息內容是否為已被識別為惡意消息內容的特征；

指示所述消息內容是否為已被舉報為惡意消息內容的特征。

11.根據權利要求7所述的裝置，所述消息傳播特征包括如下一種或多種特征：

所述待識別消息以及與所述待識別消息關聯的其他消息傳播過程的速度特征；

所述待識別消息以及與所述其他消息傳播過程的發散特征；

所述待識別消息以及與所述其他消息傳播過程的周期特征。

12.根據權利要求7所述的裝置，所述惡意消息識別模型是利用樣本數據對機器學習模型訓練得到的。