[發明專利]數據處理方法、裝置、電子設備、存儲介質及程序產品

在審

• 申請號: 202110743077.8
• 申請日: 2021-06-30
• 公開（公告）號: CN113408470A
• 公開（公告）日: 2021-09-17
• 發明（設計）人: 秦楚晴
• 申請（專利權）人: 北京達佳互聯信息技術有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06N3/04;G06N3/08;G06Q10/06
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 彭瓊

本公開關于一種數據處理方法、裝置、電子設備、存儲介質及程序產品。其中，該數據處理方法包括：獲取第一預設時間內多個第一視頻的風險信息；基于每個第一視頻的風險信息，將多個第一視頻劃分至預設數量分組；基于預設抽樣評估方式確定預設數量分組中的第一分組中第一視頻的誤判信息；基于第一分組中第一視頻的誤判信息，確定預設數量分組中的第二分組中第一視頻的誤判信息。采用本公開，能夠解決按照傳統抽樣方法進行漏放內容評估需要耗費大量審核人力，且評估效率較低的問題。

技術領域

本公開涉及數據處理技術領域，尤其涉及數據處理方法、裝置、電子設備、存儲介質及程序產品。

背景技術

隨著移動互聯網的蓬勃發展和電子設備的不斷普及，用戶可以通過在視頻發布平臺上發布視頻內容、直播等方式實現分享、交流的目的。但與此同時，現有的視頻中經常存在惡意嵌入違規內容的情況，這種視頻展示的違規內容對觀看者造成了負面影響。因此，檢測視頻內容是否為違規內容，對視頻發布平臺是一項非常重要的工作。

相關技術中，平臺會利用大量資源對用戶上傳的視頻內容進行審核監管，但仍會存在違規內容被誤判為“正常”的情況，因此通常采用傳統的抽樣方法對誤判為“正常”的視頻內容(或者“漏放內容”)進行評估。然而，由于平臺發布的視頻內容量十分龐大，而違規內容和漏放內容占比極低，因此按照傳統抽樣方法進行漏放內容評估需要耗費大量審核人力，且評估效率較低。

發明內容

本公開提供一種數據處理方法、裝置、電子設備、存儲介質及程序產品，以至少解決相關技術中因平臺發布的視頻內容量十分龐大，而違規內容和漏放內容占比極低，導致按照傳統抽樣方法進行漏放內容評估需要耗費大量審核人力，且評估效率較低的問題。

本公開的技術方案如下：

根據本公開實施例的第一方面，提供一種數據處理方法，包括：獲取第一預設時間內多個第一視頻的風險信息，風險信息用于表征視頻內容的違規風險大小；基于每個第一視頻的風險信息，將多個第一視頻劃分至預設數量分組；基于預設抽樣評估方式確定預設數量分組中的第一分組中第一視頻的誤判信息；基于第一分組中第一視頻的誤判信息，確定預設數量分組中的第二分組中第一視頻的誤判信息。

在第一方面的一些可實現方式中，誤判信息包括視頻的誤判率，基于第一分組中第一視頻的誤判信息，確定預設數量分組中的第二分組中第一視頻的誤判信息，包括：基于第一分組中第一視頻的誤判率，以及第一分組與第二分組的誤判率比值，計算第二分組中第一視頻的誤判率。

在第一方面的一些可實現方式中，在基于第一分組中第一視頻的誤判率，以及第一分組與第二分組的誤判率比值，計算第二分組中第一視頻的誤判率之前，該方法還包括：獲取第二預設時間內多個第二視頻的風險信息；基于每個第二視頻的風險信息，將多個第二視頻劃分為預設數量分組；基于預設抽樣評估方式確定預設數量分組中每個分組中第二視頻的誤判率，預設數量分組包括第一分組和第二分組；基于第一分組和第二分組中第二視頻的誤判率，計算第一分組與第二分組的誤判率比值。

在第一方面的一些可實現方式中，風險信息包括視頻內容的違規概率值，預設抽樣評估方式包括基于預設分組中對應違規標簽的抽樣視頻的數量，計算預設分組中視頻內容的誤判率，預設分組為第一分組或第二分組；其中，預設分組對應的抽樣視頻的數量基于預設分組中視頻內容的數量，以及每個視頻內容對應的違規概率值計算得到。

在第一方面的一些可實現方式中，獲取第一預設時間內多個第一視頻的風險信息，包括：提取多個第一視頻的內容特征和多個第一視頻對應用戶的用戶特征；向風險評估模型輸入內容特征和用戶特征，輸出第一視頻的違規概率值；將第一視頻的違規概率值作為第一視頻的風險信息。