[發明專利]舉報內容的處理方法、裝置、電子設備及存儲介質

在審

• 申請號: 202011623387.8
• 申請日: 2020-12-31
• 公開（公告）號: CN112699330A
• 公開（公告）日: 2021-04-23
• 發明（設計）人: 邢而康;陸航;張熠;史忠偉
• 申請（專利權）人: 五八有限公司
• 主分類號: G06F16/958
• 分類號: G06F16/958;G06Q10/06;G06Q10/10
• 代理公司: 北京弘權知識產權代理有限公司 11363
• 代理人: 郭放;許偉群

1.一種舉報內容的處理方法，其特征在于，包括：

從業務線上抽取被用戶舉報為違規內容的業務數據；其中，所述業務線有若干條，以及各個業務線均通過唯一協議接口進行所述業務數據的傳輸；

利用風險控制系統中的審核策略對所述業務數據進行審核，確認其是否為違規內容；

在所述業務數據是違規內容的情況下，依據所述業務數據違規的程度，對所述業務數據進行相應的處理。

2.根據權利要求1所述的方法，其特征在于，所述從各個業務線上抽取被用戶舉報為違規內容的業務數據的步驟之前，包括：

從業務線上抽取被用戶對于舉報頁面的配置數據；

利用所述配置數據，為用戶生成所述業務線上的舉報頁面。

3.根據權利要求1所述的方法，其特征在于，所述利用風險控制系統中的審核策略對所述業務數據進行審核，確認其是否為違規內容的步驟，包括：

根據用戶對所述業務數據的舉報內容，在所述風險控制系統中選擇的相應的審核策略；其中，所述舉報內容包括至少一種舉報原因，每一種舉報原因對應一種審核策略；

利用所述審核策略對所述業務數據進行審核，在所述業務數據至少命中一種審核策略的情況下，確認所述業務數據為違規內容；

在所述業務數據并未命中任一種審核策略的情況下，確認所述業務數據為合格內容。

4.根據權利要求3所述的方法，其特征在于，所述在所述業務數據是違規內容的情況下，依據所述業務數據違規的程度，對所述業務數據進行相應的處理的步驟，包括：

在所述業務數據是違規內容的情況下，確定所述業務數據命中的審核策略的數量，進而確定所述業務數據違規的程度；

根據所述業務數據違規的程度，刪除所述業務數據和/或對發布所述業務數據的用戶進行禁言處理或者封號處理。

5.根據權利要求1-4任一項所述的方法，其特征在于，所述利用風險控制系統中的審核策略對所述業務數據進行審核，確認其是否為違規內容的步驟，包括：

根據用戶對所述業務數據的舉報內容，設置若干參數，其中，每一個參數對應所述舉報內容中的一個舉報原因；

利用所述參數生成審核指令，并發送給所述風險控制系統；

控制所述風險控制系統根據所述參數調用對應的審核策略。

6.一種舉報內容的處理裝置，其特征在于，包括：

數據抽取模塊，用于從業務線上抽取被用戶舉報為違規內容的業務數據；其中，所述業務線有若干條，以及各個業務線均通過唯一協議接口進行所述業務數據的傳輸；

內容審核模塊，用于利用風險控制系統中的審核策略對所述業務數據進行審核，確認其是否為違規內容；

處理模塊，用于在所述業務數據是違規內容的情況下，依據所述業務數據違規的程度，對所述業務數據進行相應的處理。

7.根據權利要求6所述的裝置，其特征在于，所述裝置還包括：

配置數據獲取模塊，用于從業務線上抽取被用戶對于舉報頁面的配置數據；

舉報頁面生成模塊，用于利用所述配置數據，為用戶生成所述業務線上的舉報頁面。

8.根據權利要求6所述的裝置，其特征在于，所述內容審核模塊，還用于：根據用戶對所述業務數據的舉報內容，在所述風險控制系統中選擇的相應的審核策略；其中，所述舉報內容包括至少一種舉報原因，每一種舉報原因對應一種審核策略；利用所述審核策略對所述業務數據進行審核，在所述業務數據至少命中一種審核策略的情況下，確認所述業務數據為違規內容；在所述業務數據并未命中任一種審核策略的情況下，確認所述業務數據為合格內容。

9.根據權利要求8所述的裝置，其特征在于，所述處理模塊，還用于：在所述業務數據是違規內容的情況下，確定所述業務數據命中的審核策略的數量，進而確定所述業務數據違規的程度；根據所述業務數據違規的程度，刪除所述業務數據和/或對發布所述業務數據的用戶進行禁言處理或者封號處理。