[發明專利]視頻審核方法、視頻審核裝置、設備和存儲介質

有效

• 申請號: 201911338418.2
• 申請日: 2019-12-23
• 公開（公告）號: CN111225234B
• 公開（公告）日: 2022-07-26
• 發明（設計）人: 楊睿智;石峰;劉振強
• 申請（專利權）人: 廣州市百果園信息技術有限公司
• 主分類號: H04N21/234
• 分類號: H04N21/234;G06F16/75;G06Q50/26
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本發明實施例公開了一種視頻審核方法、視頻審核裝置、設備和存儲介質，視頻審核方法包括：獲取待審核視頻的多幀視頻圖像；從多幀視頻圖像中提取違規對象得到多幀違規圖像；將每幀違規圖像輸入預先訓練的違規分類模型中，獲得違規圖像所包含的違規分類以及違規分類的分類得分；基于所有違規圖像的違規分類和分類得分確定每個違規分類的分類總得分；根據預設審核條件和每個違規分類的分類總得分審核待審核視頻。一方面，提取違規圖像輸入違規分類模型，使得違規分類模型專注于對違規對象進行處理，提高了視頻審核的精確度，同時提取的違規圖像可以作為違規懲罰的依據，另一方面，可以根據審核條件選擇違規分類對視頻進行審核，靈活性高。

技術領域

本發明實施例涉及視頻審核技術領域，尤其涉及一種視頻審核方法、視頻審核裝置、設備和存儲介質。

背景技術

隨著互聯網技術的發展，短視頻、直播等各種新型用戶原創內容促使互聯網視頻越來越豐富，但與此同時，大量包括涉恐、涉暴、色情、政治敏感等違規對象的視頻也被生產并在互聯網上快速傳播。

目前，隨著機器學習取得長足進步，機器學習被廣泛應用于對視頻進行自動審核，現有機器學習審核視頻方法通常是將整張視頻圖像作為輸入進行處理，需要對訓練視頻中的圖像是否存在違規對象以及違規類別進行人工標注，然后將視頻圖像及人工標注信息輸入到機器學習模型中進行訓練，并利用訓練得到的模型對視頻審核。

然而，視頻審核業務具有以下特點：

第一，錯誤的審核結果降低用戶體驗，甚至造成一定的法律后果，對利用機器學習進行視頻審核的精確度要求較高，同時為避免造成法律后果，需要對處罰提供明確的依據，比如將視頻圖像中違反法律規定的違規對象進行識別并定位、提取。

第二，視頻審核時，視頻圖像中的違規對象具有清晰的定義，例如身體暴露部位、武器槍支、煙酒、政治符號等等。

第三，違規對象具有尺度不一致性，在視頻圖像中，違規對象以外的區域又極富變化，例如，武器槍支在整張視頻圖像中的面積占比可大可小，而視頻圖像的其余面積可以為非違規內容，現有的圖像預處理、注意力機制等機器學習技術對于處理背景多變、前景尺度不一致的畫面內容具有局限性。

第四，審核業務中對于違規對象的定義規則可隨時間、地域發生變化，例如，政治因素可能使特定政治符號在不同時期是否違規產生變化，不同國家對不同身體暴露部位的接受程度大不相同。

由于上述視頻審核業務特點，現有機器學習對視頻進行審核存在無法定位、提取違規對象造成審核精確度低以及無法根據審核條件進行靈活審核的問題。

發明內容

本發明實施例提供一種視頻審核方法、視頻審核裝置、設備和存儲介質，以解決現有技術中視頻審核存在審核精確度低以及無法根據審核條件進行靈活審核的問題。

第一方面，本發明實施例提供了一種視頻審核方法，包括：

獲取待審核視頻的多幀視頻圖像；

從多幀視頻圖像中提取違規對象得到多幀違規圖像；

將每幀違規圖像輸入預先訓練的違規分類模型中，獲得每幀違規圖像所包含的違規分類以及各個違規分類的分類得分；

基于所有違規圖像的所述違規分類和所述分類得分確定所述待審核視頻在每個違規分類上的分類總得分；

根據預設審核條件和每個違規分類的分類總得分審核所述待審核視頻。

第二方面，本發明實施例提供了一種視頻審核裝置，包括：

視頻圖像獲取模塊，用于獲取待審核視頻的多幀視頻圖像；

違規圖像提取模塊，用于從多幀視頻圖像中提取違規對象得到多幀違規圖像；