[發明專利]一種對敏感圖像進行分析的方法及裝置

有效

• 申請號: 201710248908.8
• 申請日: 2017-04-17
• 公開（公告）號: CN108734184B
• 公開（公告）日: 2022-06-07
• 發明（設計）人: 楊現;常江龍
• 申請（專利權）人: 蘇寧易購集團股份有限公司
• 主分類號: G06V10/762
• 分類號: G06V10/762;G06V10/764;G06V10/774;G06V10/82;G06K9/62
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明實施例公開了一種對敏感圖像進行分析的方法及裝置，涉及圖像識別技術領域，能夠提升對于廣告圖片識別檢測的自動化水平，降低人工審核成本。本發明包括：通過對所述訓練樣本集合中的樣本圖像進行聚類，再根據經過聚類的樣本圖像，通過卷積神經網絡訓練對應各類的識別模型，之后利用訓練得到的識別模型，從待檢測的圖片庫中識別對應各類的敏感圖片。本發明適用于對于在線平臺上的敏感圖片識別。

技術領域

本發明涉及圖像識別技術領域，尤其涉及一種對敏感圖像進行分析的方法及裝置。

背景技術

隨著互聯網技術的發展和各類在線交易平臺、在線營銷平臺等網絡平臺的建設，各大運營商和大小商鋪每時每刻都會在網絡平臺上投放海量的互聯網廣告。為了規范互聯網廣告的發布行為，保護消費者合法權益，在2015年頒布的新廣告法中，明確規定了互聯網廣告活動也必須遵守廣告法各項規定。

在當前的實際應用中，各網絡平臺監控互聯網廣告活動的手段，主要是通過檢測敏感圖像來判別并預警可能違法的廣告。現有的敏感圖像識別方法大多特指色情圖像，相應的檢測手段和分析方法主要發展自依據《治安管理處罰法》和《刑法》對淫穢色情信息的監控識別領域，檢測方式主要以檢測敏感器官為主。比如：手工設計具有固定的顏色、形狀和紋理的圖像特征，并根據人工設定的圖像特征匹配得到疑似的敏感圖像。

但現有方式的識別精度較低，經常會將正常情況下的禽肉制品、內衣、運動用品、計生用品等類別商品的廣告、宣傳圖像誤報成敏感圖像，以往主要通過被舉報方申訴或者監控人員人工處理的方式來解決誤報問題，這已經難以滿足目前對網絡平臺上投放的海量互聯網廣告進行實時監控的需求，尤其是不能適應電商平臺對于海量商品宣傳圖像過濾監控的要求，因此需要發展出自動化程度較高的檢測手段，以便控制人工成本。

發明內容

本發明的實施例提供一種對敏感圖像進行分析的方法，能夠提升對于廣告圖片識別檢測的自動化水平，降低人工審核成本。

為達到上述目的，本發明的實施例采用如下技術方案：

第一方面，本發明的實施例提供的方法，包括：

在所提取訓練樣本集合中，按照各樣本對應的敏感類型，對所述訓練樣本集合中的樣本圖像進行聚類；

根據經過聚類的樣本圖像，通過卷積神經網絡訓練對應各類的識別模型；

利用訓練得到的識別模型，從待檢測的圖片庫中識別對應各類的敏感圖片。

結合第一方面，在第一方面的第一種可能的實現方式中，所述按照各樣本對應的敏感類型對所述訓練樣本集合中的樣本圖像進行聚類，包括：

通過預設的神經網絡模型，從所述訓練樣本集合中提取各樣本圖像的敏感特征，其中，所述預設的神經網絡模型通過imagenet訓練；

通過預設的聚類算法，將敏感特征的相似程度滿足測試規則的樣本圖像聚類至同一個樣本子集合。

結合第一方面的第一種可能的實現方式，在第二種可能的實現方式中，還包括：

在一個樣本子集合中：

按照與聚類中心的距離，將所述子集合中的樣本圖像由近至遠排序，并選取排序在前指定位數的樣本圖像作為正樣本；

利用所得到的正樣本訓練模型分類器；

通過經過訓練的所述模型分類器，對所述樣本子集合中的樣本圖像進行分類計算，并將計算得到的分值低于預設門限的樣本圖像剔除。

結合第一方面的第一種可能的實現方式，在第三種可能的實現方式中，還包括：

利用所提取的預訓練數據集，訓練指定層數的深度殘差網絡，所述指定層數≥50；

通過訓練得到的深度殘差網絡，校正所述樣本子集合。