[發(fā)明專利]多媒體數(shù)據(jù)檢測方法及裝置

有效

• 申請?zhí)枺?/td>: 201611064769.5
• 申請日: 2016-11-28
• 公開（公告）號: CN106776842B
• 公開（公告）日: 2021-03-19
• 發(fā)明（設(shè)計(jì)）人: 胡易;余宗橋;郭曉威
• 申請（專利權(quán)）人: 騰訊科技（上海）有限公司
• 主分類號: G06F16/435
• 分類號: G06F16/435;G06F16/45;G06F16/9536
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 朱雅男

本發(fā)明公開了一種多媒體數(shù)據(jù)檢測方法及裝置，屬于互聯(lián)網(wǎng)技術(shù)領(lǐng)域。方法包括：獲取待檢測的多媒體數(shù)據(jù)；基于第一分類模型對多媒體數(shù)據(jù)執(zhí)行敏感數(shù)據(jù)檢測處理，得到多媒體數(shù)據(jù)為敏感數(shù)據(jù)的第一敏感概率；若第一敏感概率大于第一預(yù)設(shè)閾值，則基于模型深度大于第一分類模型且與第一分類模型級聯(lián)的第二分類模型，對多媒體數(shù)據(jù)執(zhí)行敏感數(shù)據(jù)檢測處理，得到多媒體數(shù)據(jù)為敏感數(shù)據(jù)的第二敏感概率；若第二敏感概率大于第二預(yù)設(shè)閾值，則確定多媒體數(shù)據(jù)為敏感數(shù)據(jù)。采取兩個(gè)模型深度不同的分類模型進(jìn)行多媒體數(shù)據(jù)檢測，可兼顧時(shí)間性能與檢測效果，這樣通過兩個(gè)級聯(lián)的分類模型既可滿足線上實(shí)時(shí)檢測需求，還可保證檢測精準(zhǔn)度。

技術(shù)領(lǐng)域

本發(fā)明涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域，特別涉及一種多媒體數(shù)據(jù)檢測方法及裝置。

背景技術(shù)

隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，諸如圖片、文字、聲音、視頻等多媒體數(shù)據(jù)通過互聯(lián)網(wǎng)傳播到了世界的各個(gè)角落。一方面，上述多媒體數(shù)據(jù)的傳播為人們的學(xué)習(xí)、工作和生活提供了巨大的幫助。另一方面，出于牟取暴利或擴(kuò)大影響力等目的，上述多媒體數(shù)據(jù)中也不乏包括淫穢色情、政治敏感、暴力恐怖等內(nèi)容的敏感數(shù)據(jù)。由于這些敏感數(shù)據(jù)的傳播會(huì)嚴(yán)重影響人們的身心健康，因此為了凈化網(wǎng)絡(luò)，如何進(jìn)行多媒體數(shù)據(jù)檢測成為了本領(lǐng)域一個(gè)亟待解決的問題。

以多媒體數(shù)據(jù)為圖片為例，相關(guān)技術(shù)在進(jìn)行圖片檢測之前，首先還需進(jìn)行模型訓(xùn)練。其中，模型訓(xùn)練過程為：將人工收集并標(biāo)注的一定數(shù)量正常圖片(即非敏感圖片)和敏感圖片作為訓(xùn)練樣本集，之后根據(jù)該訓(xùn)練樣本集對選取的一個(gè)分類模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的分類模型。這樣在進(jìn)行圖片檢測時(shí)，便可直接基于這個(gè)訓(xùn)練后的分類模型對待檢測的圖片執(zhí)行敏感圖片檢測處理，得到該圖片為敏感圖片的敏感概率；若上述敏感概率超過預(yù)設(shè)閾值，則確定待檢測的圖片為敏感圖片。

在實(shí)現(xiàn)本發(fā)明的過程中，發(fā)明人發(fā)現(xiàn)相關(guān)技術(shù)至少存在以下問題：

繼續(xù)以多媒體數(shù)據(jù)為圖片為例，由于采取單一分類模型進(jìn)行圖片檢測，且時(shí)間性能與檢測效果是一對相互矛盾的因素，即當(dāng)檢測效果較好時(shí)由于對多媒體數(shù)據(jù)的檢測足夠精細(xì)那么檢測所消耗的時(shí)間便會(huì)較長，而當(dāng)檢測所消耗的時(shí)間較短時(shí)由于對多媒體數(shù)據(jù)的檢測不夠精細(xì)那么檢測效果便會(huì)較差，因此無法兼顧時(shí)間性能與檢測效果。比如，若上述分類模型的時(shí)間性能較好，如檢測一張圖片大概僅需100ms左右，則檢測效果便會(huì)較差，因此在采用上述分類模型進(jìn)行圖片檢測后，通常還需要人工再次進(jìn)行檢測或查漏等，會(huì)消耗大量的人力物力；若上述分類模型的檢測效果較好，則時(shí)間性能便會(huì)很差，如檢測一張圖片大概需要的時(shí)間會(huì)在秒級左右，因此無法滿足線上實(shí)時(shí)進(jìn)行圖片檢測的需求，只能離線處理大量圖片，智能性欠佳。

發(fā)明內(nèi)容

為了解決相關(guān)技術(shù)的問題，本發(fā)明實(shí)施例提供了一種多媒體數(shù)據(jù)檢測方法及裝置。所述技術(shù)方案如下：

一方面，提供了一種多媒體數(shù)據(jù)檢測方法，所述方法包括：

獲取待檢測的多媒體數(shù)據(jù)；

基于第一分類模型對所述多媒體數(shù)據(jù)執(zhí)行敏感數(shù)據(jù)檢測處理，得到所述多媒體數(shù)據(jù)為敏感數(shù)據(jù)的第一敏感概率；

若所述第一敏感概率大于第一預(yù)設(shè)閾值，則基于模型深度大于所述第一分類模型且與所述第一分類模型級聯(lián)的第二分類模型，對所述多媒體數(shù)據(jù)執(zhí)行敏感數(shù)據(jù)檢測處理，得到所述多媒體數(shù)據(jù)為所述敏感數(shù)據(jù)的第二敏感概率；

若所述第二敏感概率大于第二預(yù)設(shè)閾值，則確定所述多媒體數(shù)據(jù)為所述敏感數(shù)據(jù)。

另一方面，提供了一種多媒體數(shù)據(jù)檢測方法裝置，所述裝置包括：

第一獲取模塊，用于獲取待檢測的多媒體數(shù)據(jù)；

第一處理模塊，用于基于第一分類模型對所述多媒體數(shù)據(jù)執(zhí)行敏感數(shù)據(jù)檢測處理，得到所述多媒體數(shù)據(jù)為敏感數(shù)據(jù)的第一敏感概率；