[發明專利]惡意信息識別方法、惡意信息識別裝置及系統

有效

• 申請號: 201410341818.X
• 申請日: 2014-07-17
• 公開（公告）號: CN105323145B
• 公開（公告）日: 2020-09-04
• 發明（設計）人: 張龍攀;賀嘯
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: H04L12/58
• 分類號: H04L12/58;H04L29/06
• 代理公司: 深圳翼盛智成知識產權事務所(普通合伙) 44300
• 代理人: 黃威

本發明提供一種惡意信息識別方法、惡意信息識別裝置及系統，該惡意信息識別方法包括獲取會話群組的實時會話信息；使用惡意信息模型，對實時會話信息進行惡意信息判定，以獲取疑似惡意信息；對會話群組的用戶發起疑似惡意信息的惡意信息判定請求，并接收用戶輸入的判定結果；以及根據判定結果以及預設判定方法，識別疑似惡意信息中的惡意信息。本發明還提供一種惡意信息識別裝置及系統。本發明的惡意信息識別方法、惡意信息識別裝置及系統通過會話群組的用戶對疑似惡意信息進行惡意信息判定，提高了惡意信息的識別準確度。

技術領域

本發明涉及互聯網安全技術領域，特別是涉及一種惡意信息識別方法、惡意信息識別裝置及系統。

背景技術

隨著互聯網技術的發展，人們可通過各種會話群組進行信息溝通，這種會話群組可以是QQ群或微信群等。同時也有越來越多的人利用上述會話群組發布惡意信息，如詐騙信息、惡意廣告信息以及色情信息等。

現有對于上述會話群組上惡意信息的監控主要采用以下方式：

一、對會話群組上的文字信息進行監控，如檢測到溝通內容出現了“銀行卡”、“匯款”等文字，會話群組會對會話群組上的用戶進行預防提醒。

二、對會話群組上用戶的行為進行監控，如發現用戶進行一系列惡意行為操作，如頻繁發送網站鏈接，則會話群組也會對會話群組上的用戶進行預防提醒或對該惡意行為進行屏蔽操作。

但是上述監控操作基本通過基于機器的模型進行判斷，該基于機器的模型構造復雜且精確度不高。同時由于惡意信息的更新速度越來越快，基于機器的模型常常無法正對最新的惡意信息進行識別。因此導致現有基于機器的模型的惡意信息識別準確率較低。

發明內容

本發明實施例提供一種可準確高效的對惡意信息進行識別的惡意信息識別方法，以解決現有的惡意信息識別方法的惡意信息識別準確率較低的技術問題。

本發明實施例還提供一種可準確高效的對惡意信息進行識別的惡意信息識別裝置，以解決現有的惡意信息識別裝置的惡意信息識別準確度較低的技術問題。

本發明實施例還提供一種可準確高效的對惡意信息進行識別的惡意信息識別系統，以解決現有的惡意信息識別系統的惡意信息識別準確度較低的技術問題。

為解決上述問題，本發明提供的技術方案如下：

本發明實施例提供一種惡意信息識別方法，其包括：

獲取會話群組的實時會話信息；

使用惡意信息模型，對所述實時會話信息進行惡意信息判定，以獲取疑似惡意信息；

對所述會話群組的用戶發起所述疑似惡意信息的惡意信息判定請求，并接收所述用戶輸入的判定結果；以及

根據所述判定結果以及預設判定方法，識別所述疑似惡意信息中的惡意信息。

本發明實施例還提供一種惡意信息識別裝置，其包括：

信息獲取模塊，用于獲取會話群組的實時會話信息；

疑似惡意信息獲取模塊，用于使用惡意信息模型，對所述實時會話信息進行惡意信息判定，以獲取疑似惡意信息；

判定模塊，用于對所述會話群組的用戶發起所述疑似惡意信息的惡意信息判定請求，并接收所述用戶輸入的判定結果；以及

識別模塊，用于根據所述判定結果以及預設判定方法，識別所述疑似惡意信息中的惡意信息。

本發明實施例還提供一種惡意信息識別方法，其包括：

接收會話群組服務器的疑似惡意信息的惡意信息判定請求，并在當前會話窗口展示所述惡意信息判定請求；