[發明專利]一種圖片內容審核方法、裝置、設備和介質

在審

• 申請號: 202110089225.9
• 申請日: 2021-01-22
• 公開（公告）號: CN112818150A
• 公開（公告）日: 2021-05-18
• 發明（設計）人: 孫立奮;毛紹榮;楊珉;吳凱迪;許超;陳培實;李敬昭
• 申請（專利權）人: 世紀龍信息網絡有限責任公司
• 主分類號: G06F16/55
• 分類號: G06F16/55;G06F16/583;G06K9/62
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 郭帥

1.一種圖片內容審核方法，其特征在于，包括：

響應于圖片審核請求，獲取待審核圖片；

調用場景識別模型對所述待審核圖片進行場景識別，得到所述待審核圖片的場景類別；

根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果。

2.根據權利要求1所述的圖片內容審核方法，其特征在于，所述根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果，之前還包括：

獲取各負向類型圖片，得到各負向類型數據集，其中，各所述負向類型數據集用于訓練對應的所述負向模型；

通過所述場景識別模型對各所述負向類型數據集進行場景識別，得到各負向類型數據集的場景類別；

通過列表存儲各所述負向類型數據集對應的所述負向模型和場景類別的對應關系，得到各所述負向模型的場景列表；

相應的，所述根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果，包括：

根據所述待審核圖片的場景類別，通過所述場景列表調用該場景類別對應的所述負向模型進行內容審核，得到所述待審核圖片的審核結果。

3.根據權利要求1所述的圖片內容審核方法，其特征在于，所述調用場景識別模型對所述待審核圖片進行場景識別，得到所述待審核圖片的場景類別，之前還包括：

獲取所述待審核圖片的MD5值；

將所述待審核圖片的MD5值與預置圖片MD5庫中的MD5值進行匹配，當匹配成功時，將所述待審核圖片的MD5值匹配到的所述預置圖片MD5庫中的MD5值對應的審核結果作為所述待審核圖片的審核結果，當匹配失敗時，執行后續步驟。

4.根據權利要求3所述的圖片內容審核方法，其特征在于，所述根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果，之后還包括：

將所述待審核圖片的MD5值和所述待審核圖片的審核結果存入到所述預置圖片MD5庫中，以更新所述預置圖片MD5庫。

5.根據權利要求1所述的圖片內容審核方法，其特征在于，所述根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果，之后還包括：

當所述待審核圖片的審核結果為疑似時，對所述待審核圖片進行人工審核。

6.一種圖片內容審核裝置，其特征在于，包括：

第一獲取單元，用于響應于圖片審核請求，獲取待審核圖片；

第一識別單元，用于調用場景識別模型對所述待審核圖片進行場景識別，得到所述待審核圖片的場景類別；

審核單元，用于根據所述待審核圖片的場景類別調用該場景類別對應的負向模型進行內容審核，得到所述待審核圖片的審核結果。

7.根據權利要求6所述的圖片內容審核裝置，其特征在于，還包括：

第二獲取單元，用于獲取各負向類型圖片，得到各負向類型數據集，其中，各所述負向類型數據集用于訓練對應的所述負向模型；

第二識別單元，用于通過所述場景識別模型對各所述負向類型數據集進行場景識別，得到各負向類型數據集的場景類別；

存儲單元，用于通過列表存儲各所述負向類型數據集對應的所述負向模型和場景類別的對應關系，得到各所述負向模型的場景列表；

相應的，所述審核單元具體用于：

根據所述待審核圖片的場景類別，通過所述場景列表調用該場景類別對應的所述負向模型進行內容審核，得到所述待審核圖片的審核結果。

8.根據權利要求6所述的圖片內容審核裝置，其特征在于，還包括：

第三獲取單元，用于獲取所述待審核圖片的MD5值；

匹配單元，用于將所述待審核圖片的MD5值與預置圖片MD5庫中的MD5值進行匹配，當匹配成功時，將所述待審核圖片的MD5值匹配到的所述預置圖片MD5庫中的MD5值對應的審核結果作為所述待審核圖片的審核結果，當匹配失敗時，觸發所述第一識別單元。