[發明專利]數據審核方法及裝置

有效

• 申請號: 202010095203.9
• 申請日: 2020-02-14
• 公開（公告）號: CN111327609B
• 公開（公告）日: 2022-09-30
• 發明（設計）人: 劉洋;洪炳峰;洪詩涵
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06N3/08;G06N5/00
• 代理公司: 北京華夏泰和知識產權代理有限公司 11662
• 代理人: 張麗穎;李雪

1.一種數據審核方法，其特征在于，所述方法包括：

獲取目標用戶上傳的內容數據，以及獲取所述目標用戶的目標行為特征；

將所述目標行為特征輸入預設安全等級預測模型，輸出與所述目標用戶對應的目標安全等級，所述預設安全等級預測模型基于攜帶安全等級標簽的多個用戶行為特征數據訓練得到；

根據所述目標安全等級，將所述內容數據插入數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據；

所述安全等級預測模型具體通過以下方式得到：在多個連續的第一時間段內，獲取每個第一時間段內用戶的第一行為特征；將每個第一時間段內用戶的所述第一行為特征進行組合；基于經過組合的所述第一行為特征，利用預設的安全等級預測算法進行訓練，得到所述預設安全等級預測模型，其中，經過組合的所述第一行為特征的標簽為用戶安全等級。

2.根據權利要求1所述的方法，其特征在于，所述用戶安全等級具體通過以下方式得到：

統計用戶的數據上傳數量以及數據審核通過率；

基于所述數據上傳數量以及所述數據審核通過率，確定所述用戶的用戶安全等級。

3.根據權利要求2所述的方法，其特征在于，所述統計用戶的數據上傳數量以及數據審核通過率，包括：

在多個連續的第二時間段內，統計每個第二時間段內用戶的數據上傳數量以及數據審核通過率。

4.根據權利要求3所述的方法，其特征在于，所述基于所述數據上傳數量以及所述數據審核通過率，確定所述用戶的用戶安全等級，包括：

確定每個第二時間段對應的第二權重，根據所述第二權重、所述數據上傳數量以及所述數據審核通過率，計算所述用戶對應的綜合通過率；

根據所述綜合通過率確定所述用戶的用戶安全等級。

5.根據權利要求4所述的方法，其特征在于，所述根據所述綜合通過率確定所述用戶的用戶安全等級，包括：

確定所述綜合通過率所處的綜合通過率區間；

查找所述綜合通過率區間對應的安全等級；

確定所述安全等級為所述用戶的用戶安全等級。

6.根據權利要求1所述的方法，其特征在于，所述獲取所述目標用戶的目標行為特征，包括：

在多個連續的第三時間段內，獲取每個第三時間段內所述目標用戶的第二行為特征；

將每個第三時間段內所述目標用戶的所述第二行為特征組合成目標行為特征。

7.根據權利要求1所述的方法，其特征在于，所述根據所述目標安全等級，將所述內容數據插入數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據，包括：

獲取預設的安全等級與數據審核隊列位置之間的映射關系；

基于所述映射關系，將所述內容數據插入與所述目標安全等級對應的數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據。

8.根據權利要求7所述的方法，其特征在于，所述基于所述映射關系，將所述內容數據插入與所述目標安全等級對應的數據審核隊列目標位置處，以使數據審核方依序審核所述數據審核隊列中的所述內容數據，包括：

基于所述映射關系，將所述內容數據插入與所述目標安全等級對應的第一審核隊列目標位置處，以使第一審核方依序審核所述第一審核隊列中的所述內容數據；

或者，

基于所述映射關系，將所述內容數據插入與所述目標安全等級對應的第二審核隊列目標位置處，以使第二審核方依序審核所述第二審核隊列中的所述內容數據；

或者，

基于所述映射關系，將所述內容數據插入與所述目標安全等級對應的第一審核隊列和第二審核隊列目標位置處，以使第一審核方依序審核所述第一審核隊列中的所述內容數據，第二審核方依序審核所述第二審核隊列中的所述內容數據。