[發(fā)明專利]長(zhǎng)文本生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011432584.1
• 申請(qǐng)日: 2020-12-10
• 公開(kāi)（公告）號(hào): CN112541348A
• 公開(kāi)（公告）日: 2021-03-23
• 發(fā)明（設(shè)計(jì)）人: 回艷菲;王健宗;吳天博
• 申請(qǐng)（專利權(quán)）人: 平安科技（深圳）有限公司
• 主分類號(hào): G06F40/284
• 分類號(hào): G06F40/284;G06F40/151;G06N3/04;G06K9/62
• 代理公司: 北京市京大律師事務(wù)所 11321
• 代理人: 姚維

1.一種長(zhǎng)文本生成方法，其特征在于，所述長(zhǎng)文本生成方法包括：

獲取待處理的多個(gè)關(guān)鍵詞，并將所述各關(guān)鍵詞輸入預(yù)置向量編碼器進(jìn)行向量轉(zhuǎn)換，得到詞向量；

拼接所述詞向量和預(yù)置變量，得到初始向量，并將所述初始向量輸入預(yù)置短句生成器進(jìn)行短句生成，得到多個(gè)第一短句；

分別對(duì)所述各第一短句進(jìn)行平均池化運(yùn)算，得到多個(gè)特征短句向量，并將所述各特征短句向量輸入預(yù)置短句編碼器進(jìn)行編碼轉(zhuǎn)換，得到短句編碼；

拼接所述短句編碼和所述初始向量，得到第一融合向量，并將所述第一融合向量和預(yù)置隨機(jī)變量輸入預(yù)置文本關(guān)聯(lián)器進(jìn)行特征提取，得到上下文關(guān)聯(lián)向量；

將所述各第一短句、所述隨機(jī)變量和所述上下文關(guān)聯(lián)向量輸入預(yù)置長(zhǎng)文本生成器進(jìn)行文本生成，得到長(zhǎng)文本。

2.根據(jù)權(quán)利要求1所述的長(zhǎng)文本生成方法，其特征在于，所述向量編碼器包括多個(gè)雙向GRU神經(jīng)網(wǎng)絡(luò)，所述獲取待處理的多個(gè)關(guān)鍵詞，并將所述各關(guān)鍵詞輸入預(yù)置向量編碼器進(jìn)行向量轉(zhuǎn)換，得到詞向量包括：

獲取待處理的多個(gè)關(guān)鍵詞；

將所述關(guān)鍵詞輸入所述雙向GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行向量轉(zhuǎn)換，得到前向隱藏狀態(tài)向量和后向隱藏狀態(tài)向量；

對(duì)所述前向隱藏狀態(tài)向量和后向隱藏狀態(tài)向量進(jìn)行拼接，得到詞向量。

3.根據(jù)權(quán)利要求1或2所述的長(zhǎng)文本生成方法，其特征在于，所述短句生成器包括多個(gè)第一單向GRU神經(jīng)網(wǎng)絡(luò)，所述將所述初始向量輸入預(yù)置短句生成器進(jìn)行短句生成，得到多個(gè)第一短句包括：

將所述初始向量輸入所述第一單向GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行短句生成，得到多個(gè)第一短句；

調(diào)用預(yù)置休止函數(shù)，對(duì)所述第一單向GRU神經(jīng)網(wǎng)絡(luò)中的全連接層進(jìn)行計(jì)算，得到隱層神經(jīng)元輸出值；

判斷所述隱層神經(jīng)元輸出值是否超過(guò)預(yù)置閾值；

若是，則停止生成短句，并將停止生成前得到的短句作為所述第一單向GRU神經(jīng)網(wǎng)絡(luò)的輸出，得到多個(gè)第一短句；

若否，則繼續(xù)通過(guò)所述第一單向GRU神經(jīng)網(wǎng)絡(luò)生成短句，直至所述隱層神經(jīng)元輸出值超過(guò)預(yù)置閾值，則停止生成短句，并將停止生成前得到的短句作為所述第一單向GRU神經(jīng)網(wǎng)絡(luò)的輸出，得到多個(gè)第一短句。

4.根據(jù)權(quán)利要求1所述的長(zhǎng)文本生成方法，其特征在于，所述分別對(duì)所述各第一短句進(jìn)行平均池化運(yùn)算，得到多個(gè)特征短句向量包括：

調(diào)用預(yù)置平均池化函數(shù)，分別對(duì)所述各第一短句計(jì)算平均值，得到各短句對(duì)應(yīng)的多個(gè)特征值；

根據(jù)所述各短句對(duì)應(yīng)的多個(gè)特征值，生成多個(gè)特征短句向量。

5.根據(jù)權(quán)利要求1或4所述的長(zhǎng)文本生成方法，其特征在于，所述短句編碼器包括多個(gè)第二單向GRU神經(jīng)網(wǎng)絡(luò)，所述將所述各特征短句向量輸入預(yù)置短句編碼器進(jìn)行編碼轉(zhuǎn)換，得到短句編碼包括：

將所述各特征短句向量輸入所述第二單向GRU神經(jīng)網(wǎng)絡(luò)；

通過(guò)所述第二單向GRU神經(jīng)網(wǎng)絡(luò)，對(duì)所述各特征短句向量進(jìn)行編碼轉(zhuǎn)換，得到短句編碼。

6.根據(jù)權(quán)利要求4所述的長(zhǎng)文本生成方法，其特征在于，所述語(yǔ)句關(guān)聯(lián)器包括多個(gè)第三單向GRU神經(jīng)網(wǎng)絡(luò)，所述拼接所述短句編碼和所述初始向量，得到第一融合向量，并將所述第一融合向量和預(yù)置隨機(jī)變量輸入預(yù)置文本關(guān)聯(lián)器進(jìn)行特征提取，得到上下文關(guān)聯(lián)向量包括：

拼接所述短句編碼和所述初始向量，得到第一融合向量；

將所述第一融合向量和預(yù)置隨機(jī)變量輸入所述第三單向GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行上下文關(guān)聯(lián)特征提取，得到上下文關(guān)聯(lián)向量。

7.根據(jù)權(quán)利要求1或6所述的長(zhǎng)文本生成方法，其特征在于，所述長(zhǎng)文本生成器包括多個(gè)第四單向GRU神經(jīng)網(wǎng)絡(luò)，所述將所述各第一短句、所述隨機(jī)變量和所述上下文關(guān)聯(lián)向量輸入預(yù)置長(zhǎng)文本生成器進(jìn)行文本生成，得到長(zhǎng)文本包括：

拼接所述各第一短句、所述隨機(jī)變量和所述上下文關(guān)聯(lián)向量，得到第二融合向量；

將所述第二融合向量輸入所述第四單向GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行解碼，得到多個(gè)第二短句；

依次對(duì)所述各第二短句進(jìn)行拼接，得到長(zhǎng)文本。