[發明專利]數據審核方法及裝置

有效

• 申請號: 202010095203.9
• 申請日: 2020-02-14
• 公開（公告）號: CN111327609B
• 公開（公告）日: 2022-09-30
• 發明（設計）人: 劉洋;洪炳峰;洪詩涵
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06N3/08;G06N5/00
• 代理公司: 北京華夏泰和知識產權代理有限公司 11662
• 代理人: 張麗穎;李雪

本發明實施例提供了一種數據審核方法及裝置，所述方法包括：獲取目標用戶上傳的內容數據，以及獲取所述目標用戶的目標行為特征；將所述目標行為特征輸入預設安全等級預測模型，輸出與所述目標用戶對應的目標安全等級，所述預設安全等級預測模型基于攜帶安全等級標簽的多個用戶行為特征數據訓練得到；根據所述目標安全等級，將所述內容數據插入數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據。如此基于目標用戶對應的目標安全等級，將內容數據插入數據審核隊列目標位置處，使得用戶上傳的優質數據可以快速審核和分發，提高審核效率。

技術領域

本發明涉及數據處理技術領域，尤其涉及一種數據審核方法及裝置。

背景技術

隨著互聯網的不斷發展，在互聯網上發布數據越來越普遍。若不經審查直接發布數據，反動、低俗、暴力等劣質數據將會在互聯網上肆意傳播，對個人、企業、乃至社會都會造成負面影響，屬于違法行為。因此針對用戶上傳的數據進行審核，是當前數據處理過程中必不可缺少的一環。

相關技術中，對于用戶上傳的數據，基于上傳時間依序進行審核。然而對于用戶上傳的數據，存在優質數據以及劣質數據，全部基于上傳時間依序進行審核，如此不合理的審核順序導致審核效率低下，使得用戶上傳的優質數據并不能快速審核和分發。

發明內容

本發明實施例的目的在于提供一種數據審核方法、裝置、服務器及存儲介質，以實現提高審核效率，使得用戶上傳的優質數據可以快速審核和分發的有益效果。具體技術方案如下：

在本發明實施例的第一方面，首先提供了一種數據審核方法，所述方法包括：

獲取目標用戶上傳的內容數據，以及獲取所述目標用戶的目標行為特征；

將所述目標行為特征輸入預設安全等級預測模型，輸出與所述目標用戶對應的目標安全等級，所述預設安全等級預測模型基于攜帶安全等級標簽的多個用戶行為特征數據訓練得到；

根據所述目標安全等級，將所述內容數據插入數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據。

在一個可選的實施方式中，所述安全等級預測模型具體通過以下方式得到：

在多個連續的第一時間段內，獲取每個第一時間段內用戶的第一行為特征；

將每個第一時間段內用戶的所述第一行為特征進行組合；

基于經過組合的所述第一行為特征，利用預設的安全等級預測算法進行訓練，得到所述預設安全等級預測模型，其中，經過組合的所述第一行為特征的標簽為用戶安全等級。

在一個可選的實施方式中，所述用戶安全等級具體通過以下方式得到：

統計用戶的數據上傳數量以及數據審核通過率；

基于所述數據上傳數量以及所述數據審核通過率，確定所述用戶的用戶安全等級。

在一個可選的實施方式中，所述統計用戶的數據上傳數量以及數據審核通過率，包括：

在多個連續的第二時間段內，統計每個第二時間段內用戶的數據上傳數量以及數據審核通過率。

在一個可選的實施方式中，所述基于所述數據上傳數量以及所述數據審核通過率，確定所述用戶的用戶安全等級，包括：

確定每個第二時間段對應的第二權重，根據所述第二權重、所述數據上傳數量以及所述數據審核通過率，計算所述用戶對應的綜合通過率；

根據所述綜合通過率確定所述用戶的用戶安全等級。

在一個可選的實施方式中，所述根據所述綜合通過率確定所述用戶的用戶安全等級，包括：

確定所述綜合通過率所處的綜合通過率區間；