[發明專利]異常用戶審核方法、裝置、電子設備和存儲介質

在審

• 申請號: 202011066006.0
• 申請日: 2020-09-30
• 公開（公告）號: CN112199640A
• 公開（公告）日: 2021-01-08
• 發明（設計）人: 李益永;黃秋實;孫準;井雪;項偉
• 申請（專利權）人: 廣州市百果園網絡科技有限公司
• 主分類號: G06F17/18
• 分類號: G06F17/18;G06F16/9536;G06F16/2458
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本發明實施例公開了一種異常用戶審核方法、裝置、電子設備和存儲介質，包括：獲取多個待審核用戶的、包含待審核用戶之間互動所形成的歷史行為數據；針對每個待審核用戶從歷史行為數據中提取多個預設有效特征；根據多個有效特征關聯的事件的預設概率計算待審核用戶為異常用戶的概率；采用所有待審核用戶為異常用戶的概率建立總概率函數；以預設條件為約束對總概率函數求解最大值以確定出候選用戶，對候選用戶進行審核得到異常用戶。能夠在數據信號不準確時從歷史行為數據中提取有效特征，并將有效特征轉換為關聯事件的概率來建立總概率函數整體求解目標異常用戶，從整體求解異常用戶，用戶之間的行為和分類結果相互影響，能夠準確審核出異常用戶。

技術領域

本發明實施例涉及內容審核技術領域，尤其涉及一種異常用戶審核方法、裝置、電子設備和存儲介質。

背景技術

隨著互聯網技術發展，各種視頻平臺進入人們的日常生活中，人們可以通過短視頻、直播等視頻平臺觀看視頻或者上傳視頻，然而，由于用戶的多樣性以及為了維護健康的網絡環境需求，需要對用戶進行審核以確定用戶是否為異常用戶。

在對用戶進行審核中，異常用戶可以是戀童癖用戶或者其他違規用戶，為了保護未成年人，戀童癖用戶是審核重點，需要從大量用戶中檢測出戀童癖用戶進行懲罰，然而，數據存在信號不準確的問題，如無法確定一個視頻是否為禁止未成年觀看的視頻，是否是色情視頻，另外，戀童癖用戶具有對抗行為，如戀童癖之間會產生互相關注、點贊等互動行為，通過互相關注實現通風報信來避免被檢測，或者使用戀童癖之間才可以理解的色情文字的變形詞、甚至創造戀童癖用戶之間專用的戀童詞匯來避免被檢測，造成無法提取與戀童癖相關的有效特征來檢測戀童癖用戶。

再者，現有對用戶進行分類的方法是輸入一個用戶的特征得到該用戶的分類，該用戶的行為、分類結果不會影響其他用戶的分類結果，也不會受其他用戶的行為和分類結果所影響，現有對用戶分類的算法無法結合戀童癖用戶之間的互動行為來動態求解用戶是否為戀童癖用戶。

綜上所述，現有技術由于信號不準確、戀童癖用戶具有對抗行為無法提取有效特征，并且現有算法對單一用戶分類無法利用戀童癖用戶之間的互動行為，最終導致無法有效準確地對戀童癖用戶進行審核、懲罰。

發明內容

本發明實施例提供一種異常用戶審核方法、裝置、電子設備和存儲介質，以解決現有技術中由于信號不準確、無法提取有效特征以及現有算法對單一用戶分類無法利用戀童癖用戶之間的互動行為，導致無法有效、準確地對戀童癖用戶進行審核的問題。

第一方面，本發明實施例提供了一種異常用戶審核方法，包括：

獲取多個待審核用戶的歷史行為數據，所述歷史行為數據包括待審核用戶之間互動所形成的行為數據；

針對每個待審核用戶，從所述歷史行為數據中提取多個預設有效特征，所述預設有效特征為預先設置的樣本數據中的特征

根據多個所述預設有效特征關聯的事件的預設概率計算所述待審核用戶為異常用戶的概率；

采用所有待審核用戶為異常用戶的概率建立總概率函數；

以預設條件為約束對所述總概率函數求解最大值以確定出候選用戶；對所述候選用戶進行審核得到異常用戶。

第二方面，本發明實施例提供了一種異常用戶審核裝置，包括：

歷史行為數據獲取模塊，用于獲取多個待審核用戶的歷史行為數據，所述歷史行為數據包括待審核用戶之間互動所形成的行為數據；

特征提取模塊，用于針對每個待審核用戶，從所述歷史行為數據中提取多個預設有效特征，所述預設有效特征為預先設置的樣本數據中的特征；

用戶概率計算模塊，用于根據多個所述預設有效特征關聯的事件的預設概率計算所述待審核用戶為異常用戶的概率；