[發明專利]一種敏感信息識別方法、裝置及電子設備

在審

• 申請號: 201910574799.8
• 申請日: 2019-06-28
• 公開（公告）號: CN110309423A
• 公開（公告）日: 2019-10-08
• 發明（設計）人: 劉維偉
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06F16/9538;G06F21/62
• 代理公司: 北京柏杉松知識產權代理事務所(普通合伙) 11413
• 代理人: 李欣;高鶯然

1.一種敏感信息識別方法，其特征在于，包括：

獲得用戶輸入至搜索框中的查詢信息；

在預先挖掘得到的目標敏感信息中查找所述查詢信息；其中，所述目標敏感信息包括滿足預設條件的歷史查詢信息；所述預設條件為：存在敏感內容的第一搜索結果的第一數量大于不存在敏感內容的第二搜索結果的第二數量；

當在所述目標敏感信息中查找到所述查詢信息時，確定所述查詢信息為敏感信息。

2.根據權利要求1所述的方法，其特征在于，在所述在預先挖掘得到的目標敏感信息中查找所述查詢信息的步驟之前，還包括：

獲得在預設的歷史時間段內輸入至所述搜索框的歷史查詢信息；

確定在所述歷史時間段內，所述歷史查詢信息所對應的被點擊過的搜索結果；

確定被點擊過的搜索結果中存在敏感內容的第一搜索結果的第一數量和不存在敏感內容的第二搜索結果的第二數量；

當所述第一數量大于所述第二數量時，確定所述歷史查詢信息為所述目標敏感信息。

3.根據權利要求2所述的方法，其特征在于，所述確定被點擊過的搜索結果中存在敏感內容的第一搜索結果的第一數量和不存在敏感內容的第二搜索結果的第二數量的步驟，包括：

識別被點擊過的搜索結果中的目標內容是否包含有敏感內容；其中，所述目標內容包括：標題和/或封面圖；

若所述目標內容包含有敏感內容，確定所述被點擊過的搜索結果為第一搜索結果；

若所述目標內容不包含敏感內容，確定所述被點擊過的搜索結果為第二搜索結果；

統計所述第一搜索結果的第一數量和所述第二搜索結果的第二數量。

4.根據權利要求3所述的方法，其特征在于，所述識別被點擊過的搜索結果中的目標內容是否包含有敏感內容的步驟，包括：

確定被點擊過的搜索結果在所述歷史時間段內被點擊的次數；

當所述次數大于等于預設點擊次數時，識別被點擊過的搜索結果中的目標內容是否包含有敏感內容。

5.根據權利要求2-4中任一項所述的方法，其特征在于，所述獲得在預設的歷史時間段內輸入至所述搜索框的歷史查詢信息的步驟，包括：

獲得在預設的歷史時間段內的用戶日志；

從所述用戶日志中獲得在所述歷史時間段內輸入至所述搜索框的歷史查詢信息。

6.根據權利要求1所述的方法，其特征在于，所述敏感信息包括：色情信息和/或暴力信息。

7.一種敏感信息識別裝置，其特征在于，包括：

第一獲得模塊，用于獲得用戶輸入至搜索框中的查詢信息；

查找模塊，用于在預先挖掘得到的目標敏感信息中查找所述查詢信息；其中，所述目標敏感信息包括滿足預設條件的歷史查詢信息；所述預設條件為：存在敏感內容的第一搜索結果的第一數量大于不存在敏感內容的第二搜索結果的第二數量；

第一確定模塊，用于當在所述目標敏感信息中查找到所述查詢信息時，確定所述查詢信息為敏感信息。

8.根據權利要求7所述的裝置，其特征在于，還包括：

第二獲得模塊，用于在預先挖掘得到的目標敏感信息中查找所述查詢信息之前，獲得在預設的歷史時間段內輸入至所述搜索框的歷史查詢信息；

第二確定模塊，用于確定在所述歷史時間段內，所述歷史查詢信息所對應的被點擊過的搜索結果；

第三確定模塊，用于確定被點擊過的搜索結果中存在敏感內容的第一搜索結果的第一數量和不存在敏感內容的第二搜索結果的第二數量；

第四確定模塊，用于當所述第一數量大于所述第二數量時，確定所述歷史查詢信息為所述目標敏感信息。