[發(fā)明專利]客服會(huì)話情感分析系統(tǒng)、方法及計(jì)算機(jī)系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202211320478.3
• 申請日: 2022-10-26
• 公開（公告）號(hào): CN115630652A
• 公開（公告）日: 2023-01-20
• 發(fā)明（設(shè)計(jì)）人: 林思琦;杜振東;王清琛
• 申請（專利權(quán)）人: 南京云問網(wǎng)絡(luò)技術(shù)有限公司
• 主分類號(hào): G06F40/30
• 分類號(hào): G06F40/30;G06F40/126;G06F16/35;G06N3/0442
• 代理公司: 南京行高知識(shí)產(chǎn)權(quán)代理有限公司 32404
• 代理人: 王培松;王菊花

1.一種客服會(huì)話情感分析系統(tǒng)，其特征在于，包括編碼單元、角色語義編碼融合單元、會(huì)話語義向量編碼單元、會(huì)話向量融合單元和會(huì)話情感分類單元；

所述編碼單元，被設(shè)置用于根據(jù)輸入的會(huì)話文本進(jìn)行編碼輸出，將會(huì)話文本轉(zhuǎn)換為固定維度的詞語序列向量；

所述角色語義編碼融合單元，被設(shè)置用于將會(huì)話角色信息融入到句子的語義表征中；

所述會(huì)話語義向量編碼單元，被設(shè)置用于將角色語義編碼融合單元輸出的句子語義角色向量集合輸入到Transformer編碼器和LSTM網(wǎng)絡(luò)中，進(jìn)行會(huì)話語義向量編碼，分別得到基于Transformer編碼器和LSTM網(wǎng)絡(luò)的會(huì)話語義向量；

所述會(huì)話向量融合單元，被設(shè)置用于將會(huì)話語義向量編碼單元輸出的基于Transformer編碼器和LSTM網(wǎng)絡(luò)的會(huì)話語義向量和會(huì)話窗口中最后一個(gè)句子編碼后的句子向量進(jìn)行拼接融合，得到多維度會(huì)話語義向量；

所述會(huì)話情感分類單元，被設(shè)置用于將會(huì)話向量融合單元輸出的多維度會(huì)話語義向量S_merge輸入到全連接層中，通過Softmax分類器對當(dāng)前滑動(dòng)窗口的會(huì)話情感進(jìn)行分類；得到會(huì)話情感結(jié)果。

2.根據(jù)權(quán)利要求1所述的客服會(huì)話情感分析系統(tǒng)，其特征在于：所述編碼單元被設(shè)置層基于預(yù)訓(xùn)練語言模型中的詞表和詞嵌入矩陣，對會(huì)話文本進(jìn)行轉(zhuǎn)換輸出。

3.根據(jù)權(quán)利要求2所述的客服會(huì)話情感分析系統(tǒng)，其特征在于：所述編碼單元被設(shè)置按照下述過程對會(huì)話文本進(jìn)行轉(zhuǎn)換輸出:

首先,基于預(yù)訓(xùn)練語言模型中的詞表和詞嵌入矩陣,將滑動(dòng)窗口中所有的會(huì)話文本轉(zhuǎn)化為詞語序列向量；

然后,基于預(yù)訓(xùn)練語言模型的句子編碼器,將詞語序列向量輸入到句子編碼器中，得到會(huì)話窗口中每個(gè)句子的向量,輸出至角色語義編碼融合單元。

4.根據(jù)權(quán)利要求1所述的客服會(huì)話情感分析系統(tǒng)，其特征在于：所述角色語義編碼融合單元包括會(huì)話角色編碼子單元和角色語義融合子單元；

所述會(huì)話角色編碼子單元，被設(shè)置用于將會(huì)話中不同的角色分別映射到詞表中不同的詞向量中；通過詞嵌入矩陣轉(zhuǎn)化的方式將詞向量作為對應(yīng)角色的會(huì)話角色表征；

所述角色語義融合子單元，被設(shè)置用于將每個(gè)句子編碼后的句子向量與對應(yīng)的會(huì)話角色表征進(jìn)行拼接融合。

5.一種采用權(quán)利要求1所述的客服會(huì)話情感分析系統(tǒng)的客服會(huì)話情感分析方法，其特征在于：

步驟1：采用數(shù)據(jù)集訓(xùn)練權(quán)利要求1-4中任意一項(xiàng)所述的客服會(huì)話情感分析系統(tǒng),確定其中的基于Transformer編碼器和LSTM網(wǎng)絡(luò)的模型參數(shù),以獲得訓(xùn)練好的客服會(huì)話情感分析系統(tǒng)’

步驟2：設(shè)置滑動(dòng)窗口，根據(jù)對話發(fā)展順序，依次向后移動(dòng)滑動(dòng)窗口；并分別將每次滑動(dòng)窗口內(nèi)的所有句子輸入到前述訓(xùn)練好的客服會(huì)話情感分析系統(tǒng)中，進(jìn)行滑動(dòng)窗口中最后一句話的情感分析。

6.根據(jù)權(quán)利要5所述的客服會(huì)話情感分析方法，其特征在于：所述數(shù)據(jù)集包括訓(xùn)練集、驗(yàn)證集和測試集；

所述訓(xùn)練方法為：采用交叉熵作為損失函數(shù)；學(xué)習(xí)率設(shè)置為0.0005；訓(xùn)練輪數(shù)設(shè)置為20-100輪，依據(jù)驗(yàn)證集中，獲得F1值最高的參數(shù)進(jìn)行系統(tǒng)參數(shù)保存。

7.根據(jù)權(quán)利要5所述的客服會(huì)話情感分析方法，其特征在于：所述步驟2中,滑動(dòng)窗口的大小為5。

8.根據(jù)權(quán)利要5所述的客服會(huì)話情感分析方法，其特征在于：當(dāng)滑動(dòng)窗口內(nèi)會(huì)話句子數(shù)小于設(shè)置的大小時(shí)，填充空字符串。

9.一種計(jì)算機(jī)系統(tǒng)，其特征在于，包括：

一個(gè)或多個(gè)處理器；

存儲(chǔ)器，存儲(chǔ)可被操作的指令，所述指令在通過所述一個(gè)或多個(gè)處理器執(zhí)行時(shí)使得所述一個(gè)或多個(gè)處理器執(zhí)行操作，所述操作包括如權(quán)利要求5-8中任意一項(xiàng)所述的客服會(huì)話情感分析方法的流程。

10.一種存儲(chǔ)軟件的計(jì)算機(jī)可讀介質(zhì)，其特征在于，所述軟件包括能通過一個(gè)或多個(gè)計(jì)算機(jī)執(zhí)行的指令，所述指令通過這樣的執(zhí)行使得所述一個(gè)或多個(gè)計(jì)算機(jī)執(zhí)行操作，所述操作包括如權(quán)利要求5-8中任意一項(xiàng)所述的客服會(huì)話情感分析方法的流程。