[發(fā)明專利]一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成方法及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202111044245.0
• 申請日: 2021-09-07
• 公開（公告）號: CN113743087A
• 公開（公告）日: 2021-12-03
• 發(fā)明（設(shè)計）人: 陳海林;張蓬;趙緒龍
• 申請（專利權(quán)）人: 珍島信息技術(shù)（上海）股份有限公司
• 主分類號: G06F40/211
• 分類號: G06F40/211;G06F16/332;G06F40/216;G06F40/289;G06K9/62
• 代理公司: 合肥正則元起專利代理事務所(普通合伙) 34160
• 代理人: 劉汪丹

1.一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，包括數(shù)據(jù)采集模塊、文章數(shù)據(jù)庫、儲存模塊、建模模塊、輸入模塊、文本生成模塊和服務器；

所述數(shù)據(jù)采集模塊用于采集文章數(shù)據(jù)，并將采集到的文章數(shù)據(jù)發(fā)送到文章數(shù)據(jù)庫進行保存，文章數(shù)據(jù)庫對保存的文章數(shù)據(jù)進行分段，并對分段數(shù)據(jù)進行數(shù)據(jù)預處理，提取分段數(shù)據(jù)中的核心詞，將分段數(shù)據(jù)和對應的核心詞整合標記為訓練集數(shù)據(jù)，將訓練集數(shù)據(jù)發(fā)送到儲存模塊進行儲存；通過建模模塊建立預測模型，并將預測模型發(fā)送至文本生成模塊；

用戶通過輸入模塊輸入預測參數(shù)，預測參數(shù)包括所屬行業(yè)領(lǐng)域、關(guān)鍵詞、生成文章篇數(shù)和每個段落字數(shù)范圍；輸入模塊根據(jù)輸入的預測參數(shù)獲得預測輸入數(shù)據(jù)，將預測輸入數(shù)據(jù)發(fā)送到文本生成模塊，文本生成模塊根據(jù)獲取的數(shù)據(jù)生成文本，并將文本發(fā)送給用戶。

2.根據(jù)權(quán)利要求1所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，文章數(shù)據(jù)庫在保存文章數(shù)據(jù)前，對接收的文章數(shù)據(jù)進行校核，當接收的文章數(shù)據(jù)為重復文章數(shù)據(jù)時，保存發(fā)文日最近的文章數(shù)據(jù)，刪除另一個文章數(shù)據(jù)。

3.根據(jù)權(quán)利要求2所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，當文章數(shù)據(jù)中沒有發(fā)文日時，以最新獲取的文章數(shù)據(jù)的時間為發(fā)文日，并將發(fā)文日進行標記。

4.根據(jù)權(quán)利要求1所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，建模模塊建立預測模型的方法包括：

編寫seq2seq模型，seq2seq模型采取encode端和decode端各用xlnet模型結(jié)構(gòu)，從儲存模塊中獲取訓練集數(shù)據(jù)，使用訓練集數(shù)據(jù)對seq2seq模型進行訓練，將訓練后的seq2seq模型標記為預測模型。

5.根據(jù)權(quán)利要求1所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，輸入模塊的工作方法包括：

設(shè)置檢索單元和關(guān)鍵詞庫，選擇所屬行業(yè)領(lǐng)域，根據(jù)所屬行業(yè)領(lǐng)域向用戶推薦關(guān)鍵詞，用戶從推薦的關(guān)鍵詞中進行選擇，當推薦的關(guān)鍵詞中沒有用戶需要的關(guān)鍵詞時，通過檢索單元進行檢索，獲得關(guān)鍵詞；設(shè)置生成文章篇數(shù)和每個段落字數(shù)范圍；

將關(guān)鍵詞輸入到文章數(shù)據(jù)庫中進行匹配，獲得匹配句子，獲取用戶需求字數(shù)范圍和匹配句子的字數(shù)，篩選出符合用戶要求的匹配句子，進行數(shù)據(jù)預處理，將數(shù)據(jù)預處理后的句子標記為基礎(chǔ)句子，提取基礎(chǔ)句子中的核心詞；將核心詞標記為預測輸入數(shù)據(jù)。

6.根據(jù)權(quán)利要求5所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，根據(jù)所屬行業(yè)領(lǐng)域向用戶推薦關(guān)鍵詞的方法包括：

獲取所屬行業(yè)領(lǐng)域，根據(jù)所屬行業(yè)領(lǐng)域在關(guān)鍵詞庫中進行匹配，獲得同領(lǐng)域關(guān)鍵詞，標記為待選關(guān)鍵詞，獲取待選關(guān)鍵詞的使用次數(shù)，根據(jù)待選關(guān)鍵詞的使用次數(shù)對待選關(guān)鍵詞進行排序，選取排序前N個待選關(guān)鍵詞推薦給用戶。

7.根據(jù)權(quán)利要求1所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)，其特征在于，文本生成模塊根據(jù)獲取的數(shù)據(jù)生成文本的方法包括：

獲取預測輸入數(shù)據(jù)和預測模型，將預測輸入數(shù)據(jù)輸入到預測模型中，獲得句子，標記為輸出句子，生成句子的規(guī)則是beam search，對輸出句子依據(jù)啟發(fā)式規(guī)則進行排序，形成文本數(shù)據(jù)。

8.根據(jù)權(quán)利要求1-7任一項所述的一種基于神經(jīng)網(wǎng)絡(luò)詞匯擴展段落的文本生成系統(tǒng)的生成方法，其特征在于，具體方法包括：

步驟一：建立預測模型；

步驟二：獲取用戶輸入的預測參數(shù)，并根據(jù)預測參數(shù)設(shè)置預測輸入數(shù)據(jù)；

步驟三：將預測輸入數(shù)據(jù)輸入到預測模型中，獲得輸出句子，對輸出句子依據(jù)啟發(fā)式規(guī)則進行排序，形成文本數(shù)據(jù)；

步驟四：向用戶展示文本數(shù)據(jù)。