[發(fā)明專利]一種文本自動(dòng)生成方法、系統(tǒng)、終端及存儲(chǔ)介質(zhì)

在審

• 申請?zhí)枺?/td>: 202011556071.1
• 申請日: 2020-12-23
• 公開（公告）號(hào): CN112668315A
• 公開（公告）日: 2021-04-16
• 發(fā)明（設(shè)計(jì)）人: 鄧?yán)杳?/a>;莊伯金;王少軍
• 申請（專利權(quán)）人: 平安科技（深圳）有限公司
• 主分類號(hào): G06F40/253
• 分類號(hào): G06F40/253;G06F40/284;G06F40/289
• 代理公司: 深圳國新南方知識(shí)產(chǎn)權(quán)代理有限公司 44374
• 代理人: 張?jiān)?/td>

1.一種文本自動(dòng)生成方法，其特征在于，包括：

利用結(jié)構(gòu)提取模型提取源文本中至少兩個(gè)粒度級(jí)別的結(jié)構(gòu)信息；

將所述至少兩個(gè)粒度級(jí)別的結(jié)構(gòu)信息分別映射到嵌入式向量中，并將所有粒度級(jí)別的嵌入式向量相加，得到總的結(jié)構(gòu)信息表征向量；

根據(jù)所述總的結(jié)構(gòu)信息表征向量控制生成與所述源文本結(jié)構(gòu)一致的新文本。

2.根據(jù)權(quán)利要求1所述的文本自動(dòng)生成方法，其特征在于，

所述至少兩個(gè)粒度級(jí)別的結(jié)構(gòu)信息包括詞粒度級(jí)別的結(jié)構(gòu)信息和字符粒度級(jí)別的結(jié)構(gòu)信息；

所述詞粒度級(jí)別的結(jié)構(gòu)信息由所述源文本中每個(gè)詞的詞性組成；

所述字符粒度級(jí)別的結(jié)構(gòu)信息由分詞信息組成，所述分詞信息為每一個(gè)字符在詞中的位置信息。

3.根據(jù)權(quán)利要求2所述的文本自動(dòng)生成方法，其特征在于，所述利用結(jié)構(gòu)提取模型提取源文本中至少兩個(gè)粒度級(jí)別的結(jié)構(gòu)信息之后還包括：

對所述源文本中各個(gè)粒度級(jí)別的結(jié)構(gòu)信息分別進(jìn)行詞性標(biāo)注，得到各個(gè)粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列，使得所述各個(gè)粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列長度與對應(yīng)粒度的文本長度對齊。

4.根據(jù)權(quán)利要求3所述的文本自動(dòng)生成方法，其特征在于，所述使得所述各個(gè)粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列長度與對應(yīng)粒度的文本長度對齊包括：

對所述源文本中的每個(gè)詞進(jìn)行詞性標(biāo)注，得到詞粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列，使得所述詞粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列長度與詞粒度級(jí)別的文本長度對齊；

分別對所述每個(gè)詞中的每個(gè)字符進(jìn)行詞性標(biāo)注，得到所述字符粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列，使得所述字符粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注序列長度與字符粒度級(jí)別的文本長度對齊；

所述每個(gè)詞中的每個(gè)字符的詞性標(biāo)注與對應(yīng)詞的詞性標(biāo)注一致。

5.根據(jù)權(quán)利要求4所述的文本自動(dòng)生成方法，其特征在于，假設(shè)所述源文本x＝[x₁，...，x_i，...，x_n]，所述詞性表示為pos，所述分詞信息表示為pc，所述源文本中共有n_w個(gè)詞，其中第j個(gè)詞包括m_j個(gè)字符，則第j個(gè)詞中的每一個(gè)字符的詞性都與第j個(gè)詞的詞性一致，則所述詞粒度級(jí)別的結(jié)構(gòu)信息和字符粒度級(jí)別的結(jié)構(gòu)信息對齊方式分別為：

上式中，s_w表示所述源文本的詞粒度級(jí)別的結(jié)構(gòu)信息，s_c表示所述源文本的字符級(jí)別的分詞信息，pos_j,1,…,pos_j,k,…pos_j,mj表示第j個(gè)詞中的每一個(gè)字符，pos_j,k表示第j個(gè)詞中的第k個(gè)字符。

6.根據(jù)權(quán)利要求3至5任一項(xiàng)所述的文本自動(dòng)生成方法，其特征在于，所述總的結(jié)構(gòu)信息表征向量為：

上式中，H₀為所有嵌入式向量的求和向量，H₀的維度為seq_Length*d,seq_Length表示文本長度，d表示嵌入式的維度；m表示總共有m個(gè)粒度級(jí)別的結(jié)構(gòu)信息，s_i表示第i個(gè)粒度級(jí)別的結(jié)構(gòu)信息的詞性標(biāo)注符號(hào)序列，E表示得到的嵌入式向量。

7.根據(jù)權(quán)利要求6所述的文本自動(dòng)生成方法，其特征在于，所述根據(jù)所述總的結(jié)構(gòu)信息表征向量控制生成與所述源文本結(jié)構(gòu)一致的新文本包括：

將所述總的結(jié)構(gòu)信息表征向量輸入Transformer語言模型中學(xué)習(xí)所述源文本的結(jié)構(gòu)表征信息，采用全局的自注意力機(jī)制將所述結(jié)構(gòu)表征信息融合到解碼器中，生成與所述源文本結(jié)構(gòu)一致的新文本。