[發(fā)明專利]一種基于交互融合的情感對(duì)話生成方法及系統(tǒng)有效
| 申請(qǐng)?zhí)枺?/td> | 202110798849.8 | 申請(qǐng)日: | 2021-07-15 |
| 公開(kāi)(公告)號(hào): | CN113254625B | 公開(kāi)(公告)日: | 2021-11-16 |
| 發(fā)明(設(shè)計(jì))人: | 張賓;孫喜民;高亞斌;賈江凱;王帥;李慧超;劉丹;王明達(dá) | 申請(qǐng)(專利權(quán))人: | 國(guó)網(wǎng)電子商務(wù)有限公司;國(guó)網(wǎng)電商科技有限公司 |
| 主分類號(hào): | G06F16/332 | 分類號(hào): | G06F16/332;G06F16/33;G06F16/35;G06F40/126;G06F40/242;G06N3/04;G06N3/08 |
| 代理公司: | 成都華復(fù)知識(shí)產(chǎn)權(quán)代理有限公司 51298 | 代理人: | 龐啟成 |
| 地址: | 100053 北京市*** | 國(guó)省代碼: | 北京;11 |
| 權(quán)利要求書(shū): | 查看更多 | 說(shuō)明書(shū): | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 交互 融合 情感 對(duì)話 生成 方法 系統(tǒng) | ||
1.一種基于交互融合的情感對(duì)話生成方法,其特征是,包括:
S100:接收對(duì)話語(yǔ)句文本;
S200:情感分類器識(shí)別對(duì)話語(yǔ)句文本所蘊(yùn)含的情感類別,并表示為向量;
S300:編碼器將對(duì)話語(yǔ)句文本編碼為上下文向量;
本步驟具體為:
編碼器將對(duì)話語(yǔ)句文本編碼成隱藏狀態(tài)序列;利用注意力機(jī)制對(duì)隱藏狀態(tài)序列中各隱藏狀態(tài)求加權(quán)和,得上下文向量;
S400:細(xì)粒度交互模塊將對(duì)話語(yǔ)句文本的情感類別表示向量和上下文向量融合,生成交互式向量;
本步驟進(jìn)一步包括:
S410:將情感類別表示向量映射到高維的向量空間;
S420:根據(jù)注意力機(jī)制,基于情感類別表示向量和上下文向量,學(xué)習(xí)情感類別表示向量每一維的權(quán)重,其中,
S430:對(duì)情感類別表示向量的每一維乘以相應(yīng)權(quán)重,再與上下文向量拼接,得交互式向量;
S500:解碼器利用交互式向量進(jìn)行解碼,生成回復(fù);
本步驟進(jìn)一步包括:
(1)將交互式向量、前一時(shí)刻已解碼的詞向量和前一時(shí)刻解碼器的隱藏狀態(tài)作為解碼器的輸入,更新解碼器在時(shí)刻
;
其中,詞向量為解碼器在時(shí)刻
(2)解碼器從輸出的概率分布中抽樣生成單詞,即:
;
其中,為待學(xué)習(xí)參數(shù),由訓(xùn)練確定;
其中,解碼器的總損失函數(shù)為Seq2Seq模型損失和最大化情感表達(dá)損失的加權(quán)和:;其中:
權(quán)重是待學(xué)習(xí)參數(shù),為Seq2Seq模型的參數(shù);
最大化情感表達(dá)損失,表示Seq2Seq模型的損失,通過(guò)懲罰生成詞的情感表示與中性情感詞之間的距離,為生成詞的情感表示,當(dāng)為VAD詞典中存在的詞,則其情感表示為;否則,其情感表示為;
S600:輸出回復(fù)。
2.如權(quán)利要求1所述的基于交互融合的情感對(duì)話生成方法,其特征是:
所述情感分類器采用基于BERT的情感分類器。
3.如權(quán)利要求1所述的基于交互融合的情感對(duì)話生成方法,其特征是:
步驟S500中解碼器采用單向LSTM神經(jīng)網(wǎng)絡(luò)。
4.如權(quán)利要求1所述的基于交互融合的情感對(duì)話生成方法,其特征是:
采用情感分類數(shù)據(jù)集訓(xùn)練情感分類器;
采用已訓(xùn)練的情感分類器對(duì)對(duì)話語(yǔ)料集進(jìn)行情感標(biāo)記,情感標(biāo)記后的對(duì)話語(yǔ)料集即情感對(duì)話語(yǔ)料庫(kù);
以情感對(duì)話語(yǔ)料庫(kù)作為訓(xùn)練使用的數(shù)據(jù)集,按如下步驟進(jìn)行訓(xùn)練:
接收訓(xùn)練數(shù)據(jù);
情感分類器識(shí)別訓(xùn)練數(shù)據(jù)所蘊(yùn)含的情感類別,并表示為向量;
編碼器將訓(xùn)練數(shù)據(jù)編碼為上下文向量;
將訓(xùn)練數(shù)據(jù)的情感類別表示向量和上下文向量融合,生成交互式向量;
解碼器利用交互式向量進(jìn)行解碼,生成回復(fù)。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于國(guó)網(wǎng)電子商務(wù)有限公司;國(guó)網(wǎng)電商科技有限公司,未經(jīng)國(guó)網(wǎng)電子商務(wù)有限公司;國(guó)網(wǎng)電商科技有限公司許可,擅自商用是侵權(quán)行為。如果您想購(gòu)買(mǎi)此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110798849.8/1.html,轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專利網(wǎng)。





