[發明專利]圖像數據檢測的方法、裝置、設備及計算機可讀存儲介質

在審

• 申請號: 202010596713.4
• 申請日: 2020-06-28
• 公開（公告）號: CN111726648A
• 公開（公告）日: 2020-09-29
• 發明（設計）人: 王群
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: H04N21/2187
• 分類號: H04N21/2187;H04N21/431;H04N21/44;H04N21/4782;G06F16/958;G06K9/00;G06K9/62;G06N3/02;G06N20/00
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 朱穎;劉芳

1.一種圖像數據檢測的方法，應用于客戶端，包括：

響應于包含圖像數據的頁面的展示請求，獲取所述圖像數據中當前待展示的目標圖像；

利用檢測模型，檢測所述目標圖像的敏感信息；

根據所述目標圖像的敏感信息對應的敏感等級，對所述圖像數據進行對應的干預處理。

2.根據權利要求1所述的方法，其中，所述響應于包含圖像數據的頁面的展示請求，獲取所述圖像數據中當前待展示的目標圖像，包括：

響應于包含圖片的頁面的展示請求，獲取所述圖片。

3.根據權利要求1所述的方法，其中，所述響應于包含圖像數據的頁面的展示請求，獲取所述圖像數據中當前待展示的目標圖像，包括：

響應于包含視頻流的頁面的展示請求，在所述視頻流中，每間隔一個時間間隔，獲取一個視頻幀，作為所述目標圖像。

4.根據權利要求3所述的方法，所述根據所述目標圖像的敏感信息對應的敏感等級，對所述圖像數據進行對應的干預處理，響應所述展示請求，包括：

根據所述目標圖像的敏感信息對應的敏感等級，對所述目標圖像對應時間間隔內的視頻數據進行對應的干預處理。

5.根據權利要求1-4中任一項所述的方法，其中，不同的敏感等級對應的干預處理方式不同，所述干預處理方式包括以下至少一項：

屏蔽；

模糊處理后展示；

繼續展示，并發出警告信息。

6.根據權利要求1-4中任一項所述的方法，其中，所述根據所述目標圖像的敏感信息對應的敏感等級，對所述圖像數據進行對應的干預處理之后，還包括：

獲取所述圖像數據對應的取證信息，將所述取證信息發送給監管服務器。

7.根據權利要求6所述的方法，其中，若所述包含圖像數據的頁面是視頻直播的主播用戶頁面，

所述獲取所述圖像數據對應的取證信息，包括：

獲取主播用戶的信息和所述視頻直播中的至少一個敏感圖像。

8.根據權利要求6所述的方法，其中，若所述包含圖像數據的頁面不是視頻直播的主播用戶頁面，

所述獲取所述圖像數據對應的取證信息，包括：

獲取所述頁面的地址信息，以及所述圖像數據中的至少一個敏感圖像。

9.根據權利要求7所述的方法，其中，若所述包含圖像數據的頁面是視頻直播的主播用戶頁面，

所述根據所述目標圖像的敏感信息對應的敏感等級，對所述圖像數據進行對應的干預處理之后，還包括：

將干預處理后的所述目標圖像對應時間間隔內的視頻數據發送到直播服務器。

10.根據權利要求1-4中任一項所述的方法，其中，所述利用檢測模型，檢測所述目標圖像的敏感信息之前，還包括：

對所述目標圖像進行數據預處理，將所述目標圖像轉換成標準輸入數組表示。

11.根據權利要求1-4中任一項所述的方法，其中，所述利用檢測模型，檢測所述目標圖像的敏感信息之前，還包括：

使用訓練數據對預設神經網絡模型進行訓練，得到所述檢測模型。

12.一種圖像數據檢測的方法，應用于服務端，包括：

響應于包含圖像數據的頁面的展示請求，獲取所述圖像數據中當前待展示的目標圖像；

利用檢測模型，檢測所述目標圖像的敏感信息；

根據所述目標圖像的敏感信息對應的敏感等級，對所述圖像數據進行對應的干預處理。