[發(fā)明專利]一種識別敏感信息的方法及裝置

有效

• 申請?zhí)枺?/td>: 201910918780.0
• 申請日: 2019-09-26
• 公開（公告）號: CN112560472B
• 公開（公告）日: 2023-07-11
• 發(fā)明（設(shè)計）人: 趙妍妍;羅觀柱;秦兵
• 申請（專利權(quán)）人: 騰訊科技（深圳）有限公司;哈爾濱工業(yè)大學(xué)
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/289;G06F40/242;G06F16/35;G06N3/0442;G06N3/045;G06N3/08
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 祝亞男

本申請是關(guān)于一種識別敏感信息的方法及裝置，屬于信息處理領(lǐng)域。所述方法包括：獲取待識別的文本信息中包括的m個詞語的詞向量，第一詞語的詞向量是所述第一詞語的語義表示，所述第一詞語是所述m個詞語中的一個，m為大于1的整數(shù)；基于所述第一詞語的詞向量和第二詞語的詞向量生成所述第一詞語的隱層向量，所述第二詞語是與所述第一詞語前后相鄰的詞語，所述第一詞語的隱層向量是所述第一詞語的語義表示和上下文信息的語義表示；根據(jù)所述m個詞語的隱層向量識別所述文本信息是否為敏感信息。本申請能夠提高識別敏感信息的精度。

技術(shù)領(lǐng)域

本申請涉及信息處理領(lǐng)域，特別涉及一種識別敏感信息的方法及裝置。

背景技術(shù)

在信息化高度發(fā)達(dá)的今天，互聯(lián)網(wǎng)已經(jīng)成為人們獲取信息的重要媒介之一，給人們工作生活帶來了很大的便利。對話服務(wù)機(jī)器人作為互聯(lián)網(wǎng)新時代技術(shù)的產(chǎn)物，以背后強(qiáng)大的知識庫和計算能力為人類提供問答服務(wù)和智能操作，受到學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注。雖然目前對話服務(wù)機(jī)器人的各項技術(shù)研究取得了一定的進(jìn)展，但由于開放性、即時性的特點，對話內(nèi)容也往往成為不法分子傳播低俗污穢等敏感信息的重要途徑。

為了阻止敏感信息的傳播，目前可以對敏感信息進(jìn)行識別。事先設(shè)置敏感詞典，該敏感詞典中包括大量的敏感詞。檢測待識別的文本信息中是否包括該敏感詞典中的敏感詞，如果檢測出包括敏感詞，則識別該文本信息為敏感信息，該文本信息可以是由多詞語組成的一句文字信息或多句文字信息。

發(fā)明人在實現(xiàn)本申請的過程中，發(fā)現(xiàn)上述方式至少存在如下缺陷：

目前在識別敏感信息時依賴敏感詞典進(jìn)行識別，當(dāng)文本信息中出現(xiàn)不在敏感詞典中的新敏感詞時，就無法識別出該文本信息是否為敏感信息，降低識別敏感信息的精度。

發(fā)明內(nèi)容

本申請實施例提供了一種識別敏感信息的方法及裝置，以提高識別敏感信息的精度。所述技術(shù)方案如下：

一方面，提供了一種識別敏感信息的方法，所述方法包括：

獲取待識別的文本信息中包括的m個詞語的詞向量，第一詞語的詞向量是所述第一詞語的語義表示，所述第一詞語是所述m個詞語中的一個，m為大于1的整數(shù)；

基于所述第一詞語的詞向量和第二詞語的詞向量生成所述第一詞語的隱層向量，所述第二詞語是與所述第一詞語前后相鄰的詞語，所述第一詞語的隱層向量是所述第一詞語的語義表示和上下文信息的語義表示；

根據(jù)所述m個詞語的隱層向量識別所述文本信息是否為敏感信息。

可選的，所述基于所述第一詞語的詞向量和第二詞語的詞向量生成所述第一詞語的隱層向量，包括：

將所述m個詞語中的每個詞語的詞向量，按所述每個詞語在所述文本信息中的順序輸入到上下文信息分類模型，所述上下文信息分類模型用于基于所述第一詞語的詞向量和第二詞語的詞向量產(chǎn)生所述第一詞語的隱層向量；

獲取所述上下文分類模型輸出的所述每個詞語的隱層向量。

可選的，所述根據(jù)所述m個詞語的隱層向量識別所述文本信息是否為敏感信息，包括：

根據(jù)所述m個詞語的隱層向量設(shè)置所述m個詞語中的每個詞語的第一權(quán)重，詞語的第一權(quán)重用于表示所述詞語對所述文本信息為敏感信息的貢獻(xiàn)；

根據(jù)所述每個詞語的第一權(quán)重和所述每個詞語的隱層向量獲取所述文本信息的信息矩陣；

根據(jù)所述文本信息的信息矩陣確定所述文本信息是否為敏感信息。

可選的，所述根據(jù)所述m個詞語的隱層向量設(shè)置所述m個詞語中的每個詞語的第一權(quán)重，包括：

將所述m個詞語的隱層向量輸入到權(quán)重分配模型，所述權(quán)重分配模型用于基于所述m個詞語的隱層向量設(shè)置所述m個詞語中的每個詞語的第一權(quán)重；