[發(fā)明專利]一種從非結(jié)構(gòu)化數(shù)據(jù)中提取敏感信息的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110304719.4
• 申請(qǐng)日: 2021-03-22
• 公開（公告）號(hào): CN113065330A
• 公開（公告）日: 2021-07-02
• 發(fā)明（設(shè)計(jì)）人: 黃誠;郭勇延;劉嘉勇
• 申請(qǐng)（專利權(quán)）人: 四川大學(xué)
• 主分類號(hào): G06F40/211
• 分類號(hào): G06F40/211;G06F40/289;G06F40/30;G06K9/62;G06N3/04;G06F16/33
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種從非結(jié)構(gòu)化數(shù)據(jù)中提取敏感信息的方法，其特征在于，所述方法能夠從非結(jié)構(gòu)化數(shù)據(jù)中提取敏感信息；所述敏感信息涵蓋GB/T 35273-2017 《信息安全技術(shù) 個(gè)人信息安全規(guī)范》中涉及的個(gè)人敏感信息，具體類型包括個(gè)人基本資料，個(gè)人身份信息，網(wǎng)絡(luò)身份標(biāo)識(shí)信息，個(gè)人健康生理信息，個(gè)人教育工作信息，個(gè)人財(cái)產(chǎn)信息，個(gè)人通信信息，聯(lián)系人信息，個(gè)人上網(wǎng)記錄，個(gè)人常用設(shè)備信息，個(gè)人位置信息；

所述方法包括：

步驟1、使用預(yù)處理解析工具從文本文檔中解析并提取出非結(jié)構(gòu)化文本；

步驟2、對(duì)非結(jié)構(gòu)化文本進(jìn)行預(yù)處理：對(duì)文本中的特殊信息進(jìn)行替換、文本清洗和文本分割得到文本序列；

步驟3、采用基于深度學(xué)習(xí)的序列標(biāo)注模型（BERT-BiLSTM-Attention）對(duì)文本序列中的敏感信息進(jìn)行標(biāo)注。

2.根據(jù)權(quán)利要求1所述的非結(jié)構(gòu)化數(shù)據(jù)中敏感信息提取方法，其特征在于，所述步驟2中，數(shù)據(jù)預(yù)處理的過程為：

步驟21、特殊信息替換：所述特殊信息為信息安全領(lǐng)域中具有特殊格式，構(gòu)造出正則表達(dá)式的信息：IP地址、MAC地址、API KEY/Token、密鑰、郵箱地址、URL，將這類信息使用正則匹配提取并替換為“信息類型 信息屬性”的自然語言形式；

步驟22、文本清洗：刪除所有的非ASCII碼的字符并且刪除每行開頭和結(jié)束位置的空白符；將大寫字母轉(zhuǎn)化為小寫字母；對(duì)于英文文本的預(yù)處理，使用NLTK庫對(duì)每個(gè)詞進(jìn)行詞形還原；

步驟23、文本分割：文本的分句按行將文本分為若干個(gè)句子；對(duì)文本中的每個(gè)句子使用WordPiece方法分詞，最終得到文檔的文本序列集X。

3.根據(jù)權(quán)利要求1所述的非結(jié)構(gòu)化數(shù)據(jù)中敏感信息提取方法，其特征在于，所述步驟3中，序列標(biāo)注模型（BERT-BiLSTM-Attention）提取敏感信息的過程包括：

步驟31、詞嵌入層：將步驟2所述的文本序列X輸入動(dòng)態(tài)詞向量模型BERT，得到文本序列對(duì)應(yīng)的詞向量E；

步驟32、雙向LSTM層：將步驟31所述的詞向量輸入雙向LSTM層提取文本上下文特征，產(chǎn)生對(duì)應(yīng)的隱狀態(tài)表示H；

步驟33、Attention層：將步驟32所述的隱狀態(tài)輸入Attention層，提取文本序列中的關(guān)鍵信息，生成新的隱狀態(tài)表示L；

步驟34、全連接層：將步驟33所述的新的隱狀態(tài)表示作為全連接層的輸入，使用激活函數(shù)softmax計(jì)算每個(gè)詞的類別概率分布，得到對(duì)應(yīng)的標(biāo)注標(biāo)簽，標(biāo)注策略采用BIO策略，B為敏感信息的起始位置，I為敏感信息其他部分，O為非敏感信息；

步驟35、根據(jù)BIO標(biāo)注原則和步驟34所述的標(biāo)注標(biāo)簽，提取其中的敏感信息實(shí)體，得到敏感信息抽取模型。

4.根據(jù)權(quán)利要求1所述的基于上下文的敏感信息提取方法，其特征在于，BERT-BiLSTM-Attention模型的訓(xùn)練過程包括：

步驟a、收集包含敏感信息的文檔，按照步驟2所述的方法進(jìn)行預(yù)處理，人工對(duì)其中的敏感信息按照BIO策略進(jìn)行標(biāo)注，得到訓(xùn)練集；

步驟b、采用BERT預(yù)訓(xùn)練模型對(duì)步驟a所述的訓(xùn)練集文本序列生成詞向量；

步驟c、訓(xùn)練BiLSTM-Attention序列標(biāo)注模型；

步驟d、對(duì)模型進(jìn)行評(píng)估，通過參數(shù)調(diào)整改進(jìn)模型；

步驟e、結(jié)束訓(xùn)練，輸出訓(xùn)練好的序列標(biāo)注模型。