[發明專利]一種內容審核方法和裝置

在審

• 申請號: 202110348493.8
• 申請日: 2021-03-31
• 公開（公告）號: CN115146193A
• 公開（公告）日: 2022-10-04
• 發明（設計）人: 徐孩;梁健豪
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F16/958
• 分類號: G06F16/958;G06Q10/04;G06Q10/10;G06N20/00
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強;賈允

本申請提供了一種內容審核方法和裝置，涉及人工智能領域，方法包括：響應于待審用戶觸發的待發布內容上傳操作，獲取待審用戶的多維度特征數據；調用目標低質率預測模型對多維度特征數據進行用戶低質率預測，得到待審用戶的預測低質率，其中，預測低質率表征待審用戶在未來的第一預設時長內的預估發文低質率；獲取當前時間窗口的預估低質率閾值；將預測低質率小于或等于預估低質率閾值的待審用戶在當前時間窗口內所上傳的待發布內容添加至免審白名單池中；目標低質率預測模型為基于攜帶用戶低質率標簽的多個樣本用戶的多維度樣本特征數據對機器學習模型進行低質率預測的訓練得到的模型。本申請能夠有效降低人工審核內容數量，提高審核效率。

技術領域

本申請涉及人工智能領域，尤其涉及一種內容審核方法和裝置。

背景技術

隨著互聯網的普及和發展，越來越多的用戶通過互聯網向各類內容平臺上傳自發制作的媒體內容，如視頻和圖文等。但是，用戶自發上傳的媒體內容質量良莠不齊，低質內容會造成不良傳播影響，且會嚴重影響平臺形象。因此，現有內容平臺中通常采用線下人工團隊對用戶實時上傳的內容進行人工審核，通過質量審核的內容才會被分發推薦。

然而，用戶上傳的內容體量巨大，審核時需耗費大量的時間和人力成本，因此亟需提供一種能夠有效提高內容審核效率的審核方案，以降低時間人力成本。

發明內容

本申請提供了一種內容審核方法和裝置，可以有效提高人工審核效率，降低審核成本。

一方面，本申請提供了一種內容審核方法，所述方法包括：

響應于待審用戶觸發的待發布內容上傳操作，獲取所述待審用戶的多維度特征數據；

調用目標低質率預測模型對所述多維度特征數據進行用戶低質率預測，得到所述待審用戶的預測低質率，其中，所述預測低質率表征預估的、所述待審用戶在未來的第一預設時長內的發文低質率；

獲取當前時間窗口的預估低質率閾值；

將預測低質率小于或等于所述預估低質率閾值的待審用戶在當前時間窗口內所上傳的待發布內容添加至免審白名單池中；

其中，所述目標低質率預測模型為基于攜帶用戶低質率標簽的多個樣本用戶的多維度樣本特征數據對機器學習模型進行低質率預測的訓練得到的模型。

另一方面提供了一種內容審核裝置，所述裝置包括：

特征數據獲取模塊：用于響應于待審用戶觸發的待發布內容上傳操作，獲取所述待審用戶的多維度特征數據；

低質率預測模塊：用于調用目標低質率預測模型對所述多維度特征數據進行用戶低質率預測，得到所述待審用戶的預測低質率，其中，所述預測低質率表征預估的、所述待審用戶在未來的第一預設時長內的發文低質率；

低質率閾值獲取模塊：用于獲取當前時間窗口的預估低質率閾值；

待發布內容處理模塊：用于將預測低質率小于或等于所述預估低質率閾值的待審用戶在當前時間窗口內所上傳的待發布內容添加至免審白名單池中；

其中，所述目標低質率預測模型為基于攜帶用戶低質率標簽的多個樣本用戶的多維度樣本特征數據對機器學習模型進行低質率預測的訓練得到的模型。

另一方面提供了一種內容審核設備，所述設備包括處理器和存儲器，所述設備包括處理器和存儲器，所述存儲器中存儲有至少一條指令或至少一段程序，所述至少一條指令或所述至少一段程序由所述處理器加載并執行以實現如上述的內容審核方法。

另一方面提供了一種計算機可讀存儲介質，所述存儲介質中存儲有至少一條指令或至少一段程序，所述至少一條指令或所述至少一段程序由處理器加載并執行以實現如上述的內容審核方法。