[發明專利]互聯網內容風險評價方法、裝置及服務器

在審

• 申請號: 201710986845.6
• 申請日: 2017-10-20
• 公開（公告）號: CN107832925A
• 公開（公告）日: 2018-03-23
• 發明（設計）人: 賀燕
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06Q10/06
• 分類號: G06Q10/06;G06Q50/00;G06F17/27
• 代理公司: 北京眾達德權知識產權代理有限公司11570
• 代理人: 劉杰

1.一種互聯網內容風險評價方法，其特征在于，包括：

對獲取的互聯網內容進行類別判斷；

將互聯網內容輸入到對應類別的多個風險識別模型中，得到多個風險識別模型分別輸出的多個風險分值；

根據多個風險分值，計算出所述互聯網內容的綜合風險分值。

2.根據權利要求1所述的方法，其特征在于，還包括：

為所述多個風險識別模型分別設置風險權重；

對多個風險分值分別根據對應的風險權重進行加權計算，得到所述綜合風險分值。

3.根據權利要求1所述的方法，其特征在于，所述對獲取的互聯網內容進行類別區分包括：

分析互聯網內容的數據，確定所述互聯網內容的類別為視頻、音頻、圖片、和/或，文本。

4.根據權利要求1-3任一項所述的方法，其特征在于，在計算出所述綜合風險分值之后，還包括：

根據預置的風險分最低閾值，確定綜合風險分值大于所述風險分最低閾值的互聯網內容為高危風險內容。

5.根據權利要求4所述的方法，其特征在于，還包括：

在向互聯網內容審核平臺發送待審的互聯網內容時，優先從所述高危風險內容中提取待審內容。

6.根據權利要求5所述的方法，其特征在于，還包括：

根據危險內容召回指標，確定待審數目；

從所述高危風險內容中，隨機或按照綜合風險分值從高至低，選取所述待審數目的風險內容，發送給所述互聯網內容審核平臺。

7.一種互聯網內容風險評價裝置，其特征在于，包括：

類別判斷單元，用于對獲取的互聯網內容進行類別判斷；

風險識別單元，用于將互聯網內容輸入到對應類別的多個風險識別模型中，得到多個風險識別模型分別輸出的多個風險分值；

風險綜合單元，根據多個風險分值，計算出所述互聯網內容的綜合風險分值。

8.根據權利要求7所述的裝置，其特征在于，所述風險綜合單元具體用于：對多個風險分值分別根據對應的風險權重進行加權計算，得到所述綜合風險分值；其中所述風險權重是預先為各個風險識別模型設置的。

9.根據權利要求7所述的裝置，其特征在于，所述類別判斷單元具體用于：分析互聯網內容的數據，確定所述互聯網內容的類別為視頻、音頻、圖片、和/或，文本。

10.根據權利要求7-9任一項所述的裝置，其特征在于，還包括：

高危內容確定單元，用于根據預置的風險分最低閾值，確定綜合風險分值大于所述風險分最低閾值的互聯網內容為高危風險內容。

11.根據權利要求10所述的裝置，其特征在于，還包括：

待審內容確定單元，用于在向互聯網內容審核平臺發送待審的互聯網內容時，優先從所述高危風險內容中提取待審內容。

12.根據權利要求6所述的裝置，其特征在于，還包括：待審數目確定單元，用于根據危險內容召回指標，確定待審數目；

所述待審內容確定單元，從所述高危風險內容中，隨機或按照綜合風險分值從高至低，選取所述待審數目的風險內容，發送給所述互聯網內容審核平臺。

13.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，該程序被處理器執行時實現權利要求1-6任一項所述方法的步驟。

14.一種服務器，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，其特征在于，所述處理器執行所述程序時實現權利要求1-6任一項所述方法的步驟。