[發(fā)明專利]用戶產(chǎn)生內(nèi)容過(guò)濾方法及相關(guān)裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202010075298.8
• 申請(qǐng)日: 2020-01-22
• 公開(kāi)（公告）號(hào): CN113157901A
• 公開(kāi)（公告）日: 2021-07-23
• 發(fā)明（設(shè)計(jì)）人: 劉剛
• 申請(qǐng)（專利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類號(hào): G06F16/335
• 分類號(hào): G06F16/335;G06F16/35;G06F16/9535
• 代理公司: 深圳市隆天聯(lián)鼎知識(shí)產(chǎn)權(quán)代理有限公司 44232
• 代理人: 魏學(xué)昊

1.一種用戶產(chǎn)生內(nèi)容過(guò)濾方法，其特征在于，包括：

獲取用戶產(chǎn)生內(nèi)容的多個(gè)維度向量，所述多個(gè)維度向量包括詞向量和句向量；

將所述多維度向量輸入關(guān)鍵詞庫(kù)和/或種子庫(kù)和/或內(nèi)容類型評(píng)價(jià)模型以確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，所述關(guān)鍵詞庫(kù)中包含關(guān)鍵詞詞向量樣本，所述種子庫(kù)中包含句向量樣本，所述內(nèi)容類型評(píng)價(jià)模型通過(guò)多個(gè)子評(píng)價(jià)模型構(gòu)建；

在所述內(nèi)容類型為目標(biāo)類型時(shí)，濾除所述用戶產(chǎn)生內(nèi)容。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括：

通過(guò)基于詞向量的textcnn模型、基于句向量的textcnn-like卷積網(wǎng)絡(luò)模型以及基于詞向量、句向量的svm模型構(gòu)建所述內(nèi)容類型評(píng)價(jià)模型。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，將所述多維度向量輸入內(nèi)容類型評(píng)價(jià)模型以確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，包括：

將所述多維度向量輸入基于詞向量的textcnn模型中，生成第一評(píng)價(jià)結(jié)果；

將所述多維度向量輸入基于句向量的textcnn-like卷積網(wǎng)絡(luò)模型中，生成第二評(píng)價(jià)結(jié)果；

將所述多維度向量輸入基于詞向量、句向量的svm模型中，生成第三評(píng)價(jià)結(jié)果；

通過(guò)所述第一評(píng)價(jià)結(jié)果、第二評(píng)價(jià)結(jié)果、第三評(píng)價(jià)結(jié)果確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，通過(guò)所述第一評(píng)價(jià)結(jié)果、第二評(píng)價(jià)結(jié)果、第三評(píng)價(jià)結(jié)果確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型包括：

根據(jù)融合策略，利用所述第一評(píng)價(jià)結(jié)果、第二評(píng)價(jià)結(jié)果、第三評(píng)價(jià)結(jié)果確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，所述融合策略用于指示多個(gè)評(píng)價(jià)結(jié)果的聯(lián)合評(píng)價(jià)策略。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，將所述多維度向量輸入關(guān)鍵詞庫(kù)以確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，包括：

將所述關(guān)鍵詞庫(kù)中的關(guān)鍵詞的詞向量樣本與所述多維度向量中的詞向量進(jìn)行比較；

在所述關(guān)鍵詞的詞向量樣本與所述多維度向量中的詞向量存在相同的詞向量樣本時(shí)，確定所述用戶產(chǎn)生的內(nèi)容類型為目標(biāo)類型。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，將所述多維度向量輸入種子庫(kù)以確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，包括：

計(jì)算所述多維度向量中的句向量和所述種子庫(kù)中句向量樣本的相似度；

在所述相似度大于預(yù)定閾值時(shí)，確定所述用戶產(chǎn)生的內(nèi)容類型為目標(biāo)類型。

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述關(guān)鍵詞庫(kù)，包括：

第一關(guān)鍵詞庫(kù)，所述第一關(guān)鍵詞庫(kù)中存儲(chǔ)低俗類型關(guān)鍵詞的詞向量樣本；

第二關(guān)鍵詞庫(kù)，所述第二關(guān)鍵詞庫(kù)中存儲(chǔ)謾罵類型關(guān)鍵詞的詞向量樣本。

8.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述種子庫(kù)，包括：

第一種子庫(kù)，所述第一種子庫(kù)中存儲(chǔ)低俗類型文本的句向量樣本；

第二種子庫(kù)，所述第二種子庫(kù)中存儲(chǔ)騙取點(diǎn)贊類型文本的句向量樣本。

9.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述內(nèi)容類型評(píng)價(jià)模型，包括：

第一內(nèi)容類型評(píng)價(jià)模型，所述第一內(nèi)容類型評(píng)價(jià)模型用于評(píng)價(jià)所述用戶產(chǎn)生內(nèi)容是否為低俗類型內(nèi)容；

第二內(nèi)容類型評(píng)價(jià)模型，所述第二內(nèi)容類型評(píng)價(jià)模型用于評(píng)價(jià)所述用戶產(chǎn)生內(nèi)容是否為謾罵類型內(nèi)容；

第三內(nèi)容類型評(píng)價(jià)模型，所述第三內(nèi)容類型評(píng)價(jià)模型用于評(píng)價(jià)所述用戶產(chǎn)生內(nèi)容是否為騙取點(diǎn)贊類型內(nèi)容。

10.一種用戶產(chǎn)生內(nèi)容過(guò)濾裝置，其特征在于，包括：

獲取模塊，用于獲取用戶產(chǎn)生內(nèi)容的多個(gè)維度向量，所述多個(gè)維度向量包括詞向量和句向量；

評(píng)價(jià)模塊，用于將所述多維度向量輸入關(guān)鍵詞庫(kù)和/或種子庫(kù)和/或內(nèi)容類型評(píng)價(jià)模型以確定所述用戶產(chǎn)生內(nèi)容的內(nèi)容類型，所述關(guān)鍵詞庫(kù)中包含關(guān)鍵詞詞向量樣本，所述種子庫(kù)中包含句向量樣本，所述內(nèi)容類型評(píng)價(jià)模型通過(guò)多個(gè)子評(píng)價(jià)模型構(gòu)建；

濾除模塊，用于在所述內(nèi)容類型為目標(biāo)類型時(shí)，濾除所述用戶產(chǎn)生內(nèi)容。