[發明專利]基于深度卷積神經網絡的互聯網直播色情圖像檢測方法

在審

• 申請號: 201810025167.1
• 申請日: 2018-01-11
• 公開（公告）號: CN108154134A
• 公開（公告）日: 2018-06-12
• 發明（設計）人: 周建政;明建華;鄧豪
• 申請（專利權）人: 天格科技（杭州）有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/46;G06K9/62;H04N21/24
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 鄭海峰

本發明公開了一種基于深度卷積神經網絡的互聯網直播色情圖像檢測方法。并通過利用深度學習技術、基于卷積神經網絡訓練模型迭代的樣本圖像數據增強和預處理方法、基于深度學習卷積神經網絡的模型配置與訓練方法、基于多裁剪和多模型的圖像聯合測試方法、互聯網直播視頻監管的在線圖像動態截取等多種優化方法，大幅提高色情直播圖像內容的檢測準確率，從而實現算法模型色情內容自動檢測為主、人工實時審查為輔的監管模式轉變，提高直播平臺的監管效率、降低運營人力成本、減少巡查人員的工作強度、滿足直播內容高速增長的需求。

技術領域

本發明屬于互聯網直播檢測領域，具體涉及一種基于深度卷積神經網絡的互 聯網直播色情圖像檢測方法。

背景技術

隨著移動互聯網的快速發展，視頻直播也快速進入了人們的生活，在發展的 過程中，不時出現的涉黃直播事件，嚴重阻礙了視頻直播的發展環境，并給社會 帶來了惡劣影響。因此，提高視頻直播的監管審查力度越來越迫切。但是，由于 視頻直播的內容巨大，單純依靠人力的審查已遠遠無法滿足實際需要，進一步提 高色情直播內容的檢測技術水平至關重要。

目前，關于色情圖像檢測的算法主要有以下兩大類：

(1)基于人體皮膚顏色與紋理特征的色情內容檢測算法

1、算法基本原理：本算法通常是先利用皮膚的像素值進行檢測，然后根據 皮膚紋理、形狀進行分類，最后根據皮膚面積等特征進行決策；

2、算法優缺點：優點：算法直觀，易于理解和實現；缺點：對于皮膚區域 暴露較多但不是色情圖像的場景(如游泳、沙灘日光浴等)以及色情圖像中膚色 區域占比較少的情況，模型誤判率較高。

(2)基于詞袋模型的色情內容檢測算法

1、算法基本原理：1)收集大量的訓練樣本圖像，提取圖像的sift等特征， 并進行特征聚類，歸一化構建碼本；2)對訓練集中的圖片構造bag of words，將 圖片中的sift等特征歸到不同的碼字中，從而計算出訓練樣本頻數特征，再根據 圖片的類別標簽，利用SVM訓練分類器；3)對于未知圖像，計算bag of words， 并使用訓練好的分類器進行類別分類。

2、算法優缺點：優點：檢測精度有了較大提高；缺點：算法中的碼字選擇 與碼本大小較難確定，并嚴重影響算法檢測精度，此外，圖像背景信息的大量冗 余也影響分類器的判斷。

近年來，隨著深度學習技術在圖像領域的快速發展，越來越多的圖像分類、 目標檢測、目標識別等問題開始使用深度學習技術，其識別檢測精度相較于傳統 圖像處理算法得到了顯著提升。目前，已經有很多研究學者開始嘗試從不同方面 將深度學習技術應用于色情圖像的分類識別中，并取得了較好的識別結果，針對 互聯網直播領域的色情內容檢測方面的研究還較少，提出一整套視頻直播色情內 容檢測系統并應用于實際場景中則更少。

針對移動互聯網直播中出現的色情內容，目前，多數直播平臺采用的方法是 以大量監管巡查人員進行視頻墻直播內容審查為主，色情直播圖像在線算法自動 檢測為輔進行不間斷直播內容審查，其中色情直播圖像算法在線自動檢測，多采 用傳統的基于人體皮膚顏色與紋理特征的色情內容檢測算法和基于詞袋模型的 色情內容檢測算法。其主要缺點和問題如下：

(1)傳統色情圖像內容的檢測算法精度在實際應用中不是很高，容易造成 色情直播內容檢測疏漏；

(2)隨著直播內容的高速增長，現有的監管巡查任務急劇增加，進一步加 大了直播平臺的運營成本以及巡管人員的工作強度；

(3)以巡查人員進行直播審查為主的監管方式，需要巡管人員24小時不間 斷在線審查，長時間的視頻墻審查容易造成巡管人員的視覺疲勞，進而增大色情 內容檢查疏漏的風險。