[發(fā)明專(zhuān)利]一種社交內(nèi)容風(fēng)險(xiǎn)識(shí)別方法、裝置以及設(shè)備

有效

• 申請(qǐng)?zhí)枺?/td>: 201711458033.0
• 申請(qǐng)日: 2017-12-28
• 公開(kāi)（公告）號(hào): CN108346107B
• 公開(kāi)（公告）日: 2020-11-10
• 發(fā)明（設(shè)計(jì)）人: 王川
• 申請(qǐng)（專(zhuān)利權(quán)）人: 創(chuàng)新先進(jìn)技術(shù)有限公司
• 主分類(lèi)號(hào): G06Q50/00
• 分類(lèi)號(hào): G06Q50/00;G06K9/62
• 代理公司: 北京晉德允升知識(shí)產(chǎn)權(quán)代理有限公司 11623
• 代理人: 楊移

1.一種社交內(nèi)容風(fēng)險(xiǎn)識(shí)別方法，包括：

獲取待識(shí)別的社交內(nèi)容數(shù)據(jù)；

提取所述社交內(nèi)容數(shù)據(jù)中的社交行為特征和/或社交語(yǔ)料特征，并輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到維度擴(kuò)展的特征；所述輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到維度擴(kuò)展的特征，具體包括：輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到多個(gè)葉節(jié)點(diǎn)的預(yù)測(cè)數(shù)據(jù)；根據(jù)所述多個(gè)葉節(jié)點(diǎn)的預(yù)測(cè)數(shù)據(jù)，提取得到維度擴(kuò)展的特征；所述多個(gè)葉節(jié)點(diǎn)包括所述樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型處理后的最后一層葉節(jié)點(diǎn)；其中，所述社交行為是社交相關(guān)的行為，包括用戶建立用戶群、點(diǎn)對(duì)點(diǎn)聊天、群聊天、在論壇發(fā)表言論或者轉(zhuǎn)發(fā)言論、轉(zhuǎn)賬、網(wǎng)購(gòu)；所述社交語(yǔ)料是由于社交行為而產(chǎn)生的語(yǔ)料，包括用戶的個(gè)人聊天記錄、群聊天記錄、在論壇上所發(fā)表或者轉(zhuǎn)發(fā)的言論、轉(zhuǎn)賬留言信息；所述社交行為特征包括社交行為的發(fā)生時(shí)間、結(jié)束時(shí)間、持續(xù)時(shí)間、間隔時(shí)間、頻度、行為發(fā)生時(shí)用戶所在位置；所述社交語(yǔ)料特征包括關(guān)鍵詞、敏感詞、詞頻、逆向文件頻率、語(yǔ)序；

通過(guò)將所述維度擴(kuò)展的特征輸入深度機(jī)器學(xué)習(xí)模型進(jìn)行處理，識(shí)別所述社交內(nèi)容數(shù)據(jù)是否存在風(fēng)險(xiǎn)；所述風(fēng)險(xiǎn)包括不當(dāng)行為或者不當(dāng)言論。

2.如權(quán)利要求1所述的方法，所述樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型和所述深度機(jī)器學(xué)習(xí)模型預(yù)先利用存在風(fēng)險(xiǎn)的黑樣本和不存在風(fēng)險(xiǎn)的白樣本進(jìn)行過(guò)訓(xùn)練。

3.如權(quán)利要求1所述的方法，所述提取所述社交內(nèi)容數(shù)據(jù)中的社交行為特征和/或社交語(yǔ)料特征，具體包括：

對(duì)所述社交內(nèi)容數(shù)據(jù)進(jìn)行數(shù)據(jù)清洗；

利用特征工程，從數(shù)據(jù)清洗后的所述社交內(nèi)容數(shù)據(jù)中提取社交行為特征和/或社交語(yǔ)料特征。

4.如權(quán)利要求1所述的方法，所述識(shí)別所述社交內(nèi)容數(shù)據(jù)是否存在風(fēng)險(xiǎn)后，所述方法還包括：

基于定時(shí)調(diào)度，定時(shí)獲取并向風(fēng)控平臺(tái)提供社交內(nèi)容數(shù)據(jù)的風(fēng)險(xiǎn)識(shí)別結(jié)果。

5.如權(quán)利要求1～4任一項(xiàng)所述的方法，所述樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型包括梯度提升決策樹(shù)GBDT。

6.如權(quán)利要求1～4任一項(xiàng)所述的方法，所述深度機(jī)器學(xué)習(xí)模型包括深度神經(jīng)網(wǎng)絡(luò)DNN。

7.一種社交內(nèi)容風(fēng)險(xiǎn)識(shí)別裝置，包括：

獲取模塊，獲取待識(shí)別的社交內(nèi)容數(shù)據(jù)；

提取模塊，提取所述社交內(nèi)容數(shù)據(jù)中的社交行為特征和/或社交語(yǔ)料特征，并輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到維度擴(kuò)展的特征；所述輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到維度擴(kuò)展的特征，具體包括：輸入樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型進(jìn)行處理，得到多個(gè)葉節(jié)點(diǎn)的預(yù)測(cè)數(shù)據(jù)；根據(jù)所述多個(gè)葉節(jié)點(diǎn)的預(yù)測(cè)數(shù)據(jù)，提取得到維度擴(kuò)展的特征；所述多個(gè)葉節(jié)點(diǎn)包括所述樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型處理后的最后一層葉節(jié)點(diǎn)；其中，所述社交行為是社交相關(guān)的行為，包括用戶建立用戶群、點(diǎn)對(duì)點(diǎn)聊天、群聊天、在論壇發(fā)表言論或者轉(zhuǎn)發(fā)言論、轉(zhuǎn)賬、網(wǎng)購(gòu)；所述社交語(yǔ)料是由于社交行為而產(chǎn)生的語(yǔ)料，包括用戶的個(gè)人聊天記錄、群聊天記錄、在論壇上所發(fā)表或者轉(zhuǎn)發(fā)的言論、轉(zhuǎn)賬留言信息；所述社交行為特征包括社交行為的發(fā)生時(shí)間、結(jié)束時(shí)間、持續(xù)時(shí)間、間隔時(shí)間、頻度、行為發(fā)生時(shí)用戶所在位置；所述社交語(yǔ)料特征包括關(guān)鍵詞、敏感詞、詞頻、逆向文件頻率、語(yǔ)序；

識(shí)別模塊，通過(guò)將所述維度擴(kuò)展的特征輸入深度機(jī)器學(xué)習(xí)模型進(jìn)行處理，識(shí)別所述社交內(nèi)容數(shù)據(jù)是否存在風(fēng)險(xiǎn)；所述風(fēng)險(xiǎn)包括不當(dāng)行為或者不當(dāng)言論。

8.如權(quán)利要求7所述的裝置，所述樹(shù)樁結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型和所述深度機(jī)器學(xué)習(xí)模型預(yù)先利用存在風(fēng)險(xiǎn)的黑樣本和不存在風(fēng)險(xiǎn)的白樣本進(jìn)行過(guò)訓(xùn)練。

9.如權(quán)利要求7所述的裝置，所述提取模塊提取所述社交內(nèi)容數(shù)據(jù)中的社交行為特征和/或社交語(yǔ)料特征，具體包括：

所述提取模塊對(duì)所述社交內(nèi)容數(shù)據(jù)進(jìn)行數(shù)據(jù)清洗；

利用特征工程，從數(shù)據(jù)清洗后的所述社交內(nèi)容數(shù)據(jù)中提取社交行為特征和/或社交語(yǔ)料特征。