[發明專利]違規圖片的數據攔截方法及裝置

在審

• 申請號: 202111175598.4
• 申請日: 2021-10-09
• 公開（公告）號: CN113901369A
• 公開（公告）日: 2022-01-07
• 發明（設計）人: 胡偉林;王彩霞;李浩;李雪垠
• 申請（專利權）人: 北京小川在線網絡技術有限公司
• 主分類號: G06F16/958
• 分類號: G06F16/958;G06F16/58;G06V10/74
• 代理公司: 北京中和立達知識產權代理有限公司 11756
• 代理人: 楊磊

1.一種違規圖片的數據攔截方法，其特征在于，所述方法包括：

獲取疑似敏感圖片，并對所述疑似敏感圖片進行二次確認；

當所述疑似敏感圖片被確認為違規圖片時，創建一個回掃任務，并記錄所述違規圖片的MD5值；

根據所述回掃任務，提取所述違規圖片的圖片特征值；

將所述圖片特征值與已存儲的歷史數據進行相似度計算，以得到相似度計算結果；

將所述違規圖片的MD5值與已存儲的MD5值進行校驗，確定兩者是否一致，得到校驗結果；

根據相似度計算結果和校驗結果對所述違規圖片進行攔截處理。

2.根據權利要求1所述的方法，其特征在于，所述疑似敏感圖片的數據來源包括以下至少一個：

用戶發布時初級審核系統判定為違規的圖片數據；

搜集小組從開放網絡搜集到的違規的圖片數據；

被其他用戶舉報的圖片數據。

3.根據權利要求1所述的方法，其特征在于，根據相似度計算結果和校驗結果對所述違規圖片進行攔截處理，包括：

根據預設的相似度篩選范圍和相似度計算結果批量篩選出違規圖片；和/或

攔截校驗結果為兩者一致的違規圖片。

4.根據權利要求3所述的方法，其特征在于，根據預設的相似度篩選范圍和相似度計算結果批量篩選出違規圖片，包括：

將相似度計算結果按照相似度進行降序排序；

按照預設的相似度篩選范圍篩選出所有相似度在所述預設的相似度篩選范圍內的目標違規圖片；

根據接收到的攔截指令，攔截篩選出的目標違規圖片。

5.根據權利要求1所述的方法，其特征在于，所述方法包括：

接收用戶輸入的相似度篩選范圍設置指令，根據所述設置指令，設置所述預設的相似度篩選范圍。

6.一種違規圖片的數據攔截裝置，其特征在于，所述裝置包括：

獲取模塊，用于獲取疑似敏感圖片，并對所述疑似敏感圖片進行二次確認；

處理模塊，用于當所述疑似敏感圖片被確認為違規圖片時，創建一個回掃任務，并記錄所述違規圖片的MD5值；

提取模塊，用于根據所述回掃任務，提取所述違規圖片的圖片特征值；

計算模塊，用于將所述圖片特征值與已存儲的歷史數據進行相似度計算，以得到相似度計算結果；

確定模塊，用于將所述違規圖片的MD5值與已存儲的MD5值進行校驗，確定兩者是否一致，得到校驗結果；

攔截模塊，用于根據相似度計算結果和校驗結果對所述違規圖片進行攔截處理。

7.根據權利要求6所述的裝置，其特征在于，所述疑似敏感圖片的數據來源包括以下至少一個：

用戶發布時初級審核系統判定為違規的圖片數據；

搜集小組從開放網絡搜集到的違規的圖片數據；

被其他用戶舉報的圖片數據。

8.根據權利要求6所述的裝置，其特征在于，所述攔截模塊用于：

根據預設的相似度篩選范圍和相似度計算結果批量篩選出違規圖片；和/或

攔截校驗結果為兩者一致的違規圖片。

9.根據權利要求8所述的裝置，其特征在于，所述攔截模塊包括：

排序單元，用于將相似度計算結果按照相似度進行降序排序；

篩選單元，用于按照預設的相似度篩選范圍篩選出所有相似度在所述預設的相似度篩選范圍內的目標違規圖片；

攔截單元，用于根據接收到的攔截指令，攔截篩選出的目標違規圖片。

10.根據權利要求6所述的裝置，其特征在于，所述裝置包括：

設置模塊，用于接收用戶輸入的相似度篩選范圍設置指令，根據所述設置指令，設置所述預設的相似度篩選范圍。