[發(fā)明專利]一種問題生成方法、裝置及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110475983.4
• 申請日: 2021-04-29
• 公開（公告）號: CN113239160B
• 公開（公告）日: 2022-08-12
• 發(fā)明（設(shè)計）人: 蔡曉東;高鑄成
• 申請（專利權(quán)）人: 桂林電子科技大學(xué)
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06N3/04;G06N3/08
• 代理公司: 北京輕創(chuàng)知識產(chǎn)權(quán)代理有限公司 11212
• 代理人: 尉保芳

1.一種問題生成方法，其特征在于，包括如下步驟：

導(dǎo)入三元組，所述三元組包括段落向量組、原始問題向量組和答案向量組；

對所述段落向量組和所述答案向量組進(jìn)行拼接，得到拼接向量組；

構(gòu)建訓(xùn)練模型，通過所述訓(xùn)練模型對所述拼接向量組和所述原始問題向量組進(jìn)行訓(xùn)練分析，得到已訓(xùn)練問題向量組；

根據(jù)所述已訓(xùn)練問題向量組和所述原始問題向量組對所述訓(xùn)練模型進(jìn)行更新分析，得到最終模型；

導(dǎo)入待測段落向量組和待測答案向量組，并通過所述最終模型對所述待測段落向量組和所述待測答案向量組進(jìn)行問題生成處理，得到問題生成結(jié)果；

所述訓(xùn)練模型包括編碼器和解碼器，所述拼接向量組包括多個拼接向量，所述構(gòu)建訓(xùn)練模型，通過所述訓(xùn)練模型對所述拼接向量組和所述原始問題向量組進(jìn)行訓(xùn)練分析，得到已訓(xùn)練問題向量組的過程包括：

判斷各個所述拼接向量是否為所述原始問題向量組中任一原始問題向量，若是，則將預(yù)設(shè)第一標(biāo)簽向量作為與所述拼接向量對應(yīng)的標(biāo)簽向量；若否，則將預(yù)設(shè)第二標(biāo)簽向量作為與所述拼接向量對應(yīng)的標(biāo)簽向量；

分別根據(jù)各個所述拼接向量對與所述拼接向量對應(yīng)的標(biāo)簽向量進(jìn)行向量拼接，得到與所述拼接向量對應(yīng)的標(biāo)簽拼接向量；

通過所述編碼器依次對各個所述標(biāo)簽拼接向量進(jìn)行編碼，得到與所述拼接向量對應(yīng)的編碼向量；

通過所述解碼器依次對各個所述編碼向量進(jìn)行解碼，得到與所述編碼向量對應(yīng)的單詞向量，并集合所有的單詞向量得到已訓(xùn)練問題向量組；

所述根據(jù)所述已訓(xùn)練問題向量組和所述原始問題向量組對所述訓(xùn)練模型進(jìn)行更新分析，得到最終模型的過程包括：

利用截斷損失算法分別對所述原始問題向量組和所述已訓(xùn)練問題向量組進(jìn)行篩選，并集合經(jīng)篩選的原始問題向量得到篩選后的原始問題向量組，集合經(jīng)篩選的已訓(xùn)練問題向量得到篩選后的已訓(xùn)練問題向量組；

對所述篩選后的原始問題向量組和所述篩選后的已訓(xùn)練問題向量組進(jìn)行損失值的計算，得到交叉熵?fù)p失值；

根據(jù)所述交叉熵?fù)p失值對所述訓(xùn)練模型進(jìn)行參數(shù)更新，得到更新后的訓(xùn)練模型；

對參數(shù)更新的次數(shù)進(jìn)行統(tǒng)計，若所述參數(shù)更新的次數(shù)小于或等于第一預(yù)設(shè)次數(shù)時，則重新導(dǎo)入三元組；

若所述參數(shù)更新的次數(shù)大于所述第一預(yù)設(shè)次數(shù)且小于或等于第二預(yù)設(shè)次數(shù)時，則對所述更新后的訓(xùn)練模型進(jìn)行存儲，得到存儲模型，并重新導(dǎo)入三元組；

若所述參數(shù)更新的次數(shù)大于所述第二預(yù)設(shè)次數(shù)時，則利用EMA指數(shù)滑動平均算法對所有的存儲模型進(jìn)行參數(shù)調(diào)優(yōu)處理，得到最終模型；

其中，所述第一預(yù)設(shè)次數(shù)小于所述第二預(yù)設(shè)次數(shù)。

2.根據(jù)權(quán)利要求1所述的問題生成方法，其特征在于，所述對所述段落向量組和所述答案向量組進(jìn)行拼接，得到拼接向量組的過程包括：

通過第一式對所述段落向量組和所述答案向量組進(jìn)行拼接，得到拼接向量組，所述第一式為：

s＝f(W_s[x₁；x₂；…；x_i；z₁；z₂；…；z_k]+b_s)，

其中，s為拼接向量組，f為非線性函數(shù)，W_s為權(quán)重矩陣，x_i為段落向量組中第i個段落向量，z_k為答案向量組中第k個段落向量，b_s為偏置向量，[；]為數(shù)據(jù)之間的拼接。