[發(fā)明專利]基于遞歸神經(jīng)網(wǎng)絡(luò)和概率上下文無關(guān)文法的密碼生成系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 201711170046.8
• 申請(qǐng)日: 2017-11-22
• 公開（公告）號(hào): CN107947921A
• 公開（公告）日: 2018-04-20
• 發(fā)明（設(shè)計(jì)）人: 易平;夏之陽(yáng);劉韞彧
• 申請(qǐng)（專利權(quán)）人: 上海交通大學(xué)
• 主分類號(hào): H04L9/08
• 分類號(hào): H04L9/08
• 代理公司: 上海交達(dá)專利事務(wù)所31201
• 代理人: 王毓理,王錫麟

1.一種基于遞歸神經(jīng)網(wǎng)絡(luò)和概率上下文無關(guān)文法的密碼生成系統(tǒng)，其特征在于，包括：帶有密碼數(shù)據(jù)庫(kù)的預(yù)處理模塊、訓(xùn)練模塊以及生成模塊，其中：預(yù)處理模塊根據(jù)密碼數(shù)據(jù)庫(kù)中的概率上下文無關(guān)文法的規(guī)則，將待處理字符串轉(zhuǎn)變成標(biāo)簽的格式，并對(duì)每個(gè)標(biāo)簽進(jìn)行概率統(tǒng)計(jì)，得到每個(gè)標(biāo)簽對(duì)應(yīng)字符串的概率排序作為訓(xùn)練模塊的樣本，由多個(gè)生成器組成的訓(xùn)練模塊通過多層遞歸神經(jīng)網(wǎng)絡(luò)對(duì)樣本進(jìn)行特征提取以及訓(xùn)練，得到神經(jīng)網(wǎng)絡(luò)模型，生成模塊基于神經(jīng)網(wǎng)絡(luò)模型生成標(biāo)簽，并基于權(quán)重選擇規(guī)則將標(biāo)簽替換回密碼，并經(jīng)文本分類處理，區(qū)分其是否屬于密碼數(shù)據(jù)庫(kù)的概率并最終得到密碼；

所述的文本分類，確保輸出密碼不屬于某個(gè)特定的數(shù)據(jù)集，即不具備某個(gè)特定數(shù)據(jù)集的特征，從而保證密碼的通用性。

2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征是，所述的訓(xùn)練模塊包括：遞歸神經(jīng)網(wǎng)絡(luò)單元、參數(shù)調(diào)整單元和數(shù)據(jù)庫(kù)單元，其中：遞歸神經(jīng)網(wǎng)絡(luò)單元與預(yù)處理模塊相連并接收訓(xùn)練用的標(biāo)簽串，參數(shù)調(diào)整單元與遞歸神經(jīng)網(wǎng)絡(luò)單元相連并傳輸調(diào)整后的神經(jīng)網(wǎng)絡(luò)參數(shù)。

3.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征是，所述的生成模塊包括：權(quán)重選擇單元、用于文本分類的深度卷積神經(jīng)網(wǎng)絡(luò)單元、參數(shù)調(diào)整單元和辨別器單元，其中：權(quán)重選擇單元與訓(xùn)練模塊中的遞歸神經(jīng)網(wǎng)絡(luò)單元相連，并從下一個(gè)標(biāo)簽的候選項(xiàng)中，根據(jù)其權(quán)值隨機(jī)選擇出一個(gè)輸出至深度卷積神經(jīng)網(wǎng)絡(luò)單元；深度卷積神經(jīng)網(wǎng)絡(luò)單元與權(quán)重選擇單元相連，對(duì)權(quán)重選擇單元選中的標(biāo)簽進(jìn)行文本分類；參數(shù)調(diào)整單元與深度卷積神經(jīng)網(wǎng)絡(luò)單元相連并傳輸調(diào)整后的神經(jīng)網(wǎng)絡(luò)參數(shù)；辨別器單元與深度卷積神經(jīng)網(wǎng)絡(luò)單元相連并接收文本分類結(jié)果后進(jìn)行判斷和輸出。

4.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征是，所述的權(quán)重選擇，具體為：當(dāng)W[i](i＝1,2,…,n)是n個(gè)權(quán)重為W[i]的候選項(xiàng)，則第k個(gè)候選項(xiàng)被選中的概率P[k]的計(jì)算規(guī)則為：從而保證高權(quán)重的候選項(xiàng)以高概率被選出。

5.根據(jù)權(quán)利要求3所述的系統(tǒng)，其特征是，所述的深度卷積神經(jīng)網(wǎng)絡(luò)單元由一個(gè)兩層卷積神經(jīng)網(wǎng)絡(luò)、一個(gè)全連接層和一個(gè)激活層組成，該深度卷積神經(jīng)網(wǎng)絡(luò)單元根據(jù)權(quán)重選擇單元輸出的標(biāo)簽，與當(dāng)前時(shí)刻之前生成的11個(gè)標(biāo)簽合并，經(jīng)過詞向量處理得到二維向量作為兩層卷積神經(jīng)網(wǎng)絡(luò)的輸入，然后通過一個(gè)二維卷積核提取得到序列特征；全連接層將序列特征映射到標(biāo)記的空間。例如本實(shí)施例中共有兩個(gè)密碼數(shù)據(jù)庫(kù)同時(shí)生成數(shù)據(jù)，則映射到二維空間，即文本分類結(jié)果為一個(gè)二維數(shù)組，該二維數(shù)組的數(shù)值表示所屬的權(quán)重；最后經(jīng)激活層歸一化后，得到文本分類結(jié)果。

6.根據(jù)權(quán)利要求3所述的系統(tǒng)，其特征是，所述的辨別器單元判斷分類結(jié)果是否表明輸入具有某一數(shù)據(jù)集的特征，即當(dāng)標(biāo)準(zhǔn)差大于0.2，則表明輸入具有某一數(shù)據(jù)集的特征，應(yīng)當(dāng)被拋棄，否則被保留。