[發明專利]一種社交內容風險識別方法、裝置以及設備

有效

• 申請號: 201711458033.0
• 申請日: 2017-12-28
• 公開（公告）號: CN108346107B
• 公開（公告）日: 2020-11-10
• 發明（設計）人: 王川
• 申請（專利權）人: 創新先進技術有限公司
• 主分類號: G06Q50/00
• 分類號: G06Q50/00;G06K9/62
• 代理公司: 北京晉德允升知識產權代理有限公司 11623
• 代理人: 楊移

本說明書實施例公開了一種社交內容風險識別方法、裝置以及設備。方案包括：通過樹樁結構的機器學習模型處理，對待識別的社交內容數據的特征進行特征維度擴展，再將得到的維度擴展的特征輸入深度機器學習模型進行預測，從而識別該社交內容數據是否存在風險。

技術領域

本說明書涉及計算機軟件技術領域，尤其涉及一種社交內容風險識別方法、裝置以及設備。

背景技術

隨著計算機技術和互聯網技術的迅速發展，社交活動越來越多地基于互聯網進行，包括但不限于論壇交流、即時通訊、網上交易等活動，在活動中相應地產生一些行為記錄、發布或者傳播的語料等數據，這里統稱為社交內容。

在實際應用中，一些社交內容是存在風險的，會影響正常用戶的上網體驗，嚴重的還可能威脅網絡安全甚至現實社會安全，比如，暴力、恐怖或者政治相關的不當行為或者不當言論等。

在現有技術中，往往基于經驗設置一些關鍵詞，通過關鍵詞匹配對社交內容進行風險識別。

基于現有技術，需要更為可靠的社交內容風險識別方案。

發明內容

本說明書實施例提供一種社交內容風險識別方法、裝置以及設備，用以解決如下技術問題：需要更為可靠的社交內容風險識別方案。

為解決上述技術問題，本說明書實施例是這樣實現的：

本說明書實施例提供的一種社交內容風險識別方法，包括：

獲取待識別的社交內容數據；

提取所述社交內容數據中的社交行為特征和/或社交語料特征，并輸入樹樁結構的機器學習模型進行處理，得到維度擴展的特征；

通過將所述維度擴展的特征輸入深度機器學習模型進行處理，識別所述社交內容數據是否存在風險。

本說明書實施例提供的一種社交內容風險識別裝置，包括：

獲取模塊，獲取待識別的社交內容數據；

提取模塊，提取所述社交內容數據中的社交行為特征和/或社交語料特征，并輸入樹樁結構的機器學習模型進行處理，得到維度擴展的特征；

識別模塊，通過將所述維度擴展的特征輸入深度機器學習模型進行處理，識別所述社交內容數據是否存在風險。

本說明書實施例提供的一種社交內容風險識別設備，包括：

至少一個處理器；以及，

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被所述至少一個處理器執行，以使所述至少一個處理器能夠：

獲取待識別的社交內容數據；

提取所述社交內容數據中的社交行為特征和/或社交語料特征，并輸入樹樁結構的機器學習模型進行處理，得到維度擴展的特征；

通過將所述維度擴展的特征輸入深度機器學習模型進行處理，識別所述社交內容數據是否存在風險。

本說明書實施例采用的上述至少一個技術方案能夠達到以下有益效果：相比于原始的特征，維度擴展的特征能夠更精細地刻畫社交內容數據，便于用諸如深度神經網絡(Deep Neural Networks，DNN)等包含大量輸入節點的深度機器學習模型進行處理，進而有利于更可靠地識別社交內容數據是否存在風險。

附圖說明