[發(fā)明專利]一種對(duì)話狀態(tài)追蹤方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011263660.0
• 申請(qǐng)日: 2020-11-12
• 公開（公告）號(hào): CN112488157A
• 公開（公告）日: 2021-03-12
• 發(fā)明（設(shè)計(jì)）人: 陸恒通;楊玉樹;江會(huì)星
• 申請(qǐng)（專利權(quán)）人: 北京三快在線科技有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06F16/332;G06N3/04
• 代理公司: 北京潤(rùn)澤恒知識(shí)產(chǎn)權(quán)代理有限公司 11319
• 代理人: 任亞娟

1.一種對(duì)話狀態(tài)追蹤方法，其特征在于，包括：

通過(guò)預(yù)先構(gòu)建的對(duì)話狀態(tài)追蹤模型中的對(duì)話歷史編碼器，對(duì)歷史對(duì)話數(shù)據(jù)進(jìn)行編碼，得到所述歷史對(duì)話數(shù)據(jù)編碼后的詞表示數(shù)據(jù)，并對(duì)所述歷史對(duì)話數(shù)據(jù)中每個(gè)對(duì)話語(yǔ)句進(jìn)行編碼，得到所述歷史對(duì)話數(shù)據(jù)編碼后的第一句子表示數(shù)據(jù)；

根據(jù)所述第一句子表示數(shù)據(jù)、待追蹤的領(lǐng)域以及每個(gè)所述領(lǐng)域下待追蹤的槽，通過(guò)對(duì)話狀態(tài)追蹤模型中的圖神經(jīng)網(wǎng)絡(luò)模型，構(gòu)建所述槽之間的關(guān)系以及所述槽與所述歷史對(duì)話數(shù)據(jù)之間的關(guān)系，并獲取編碼后的第二句子表示數(shù)據(jù)和槽表示數(shù)據(jù)；

根據(jù)所述第二句子表示數(shù)據(jù)、所述槽表示數(shù)據(jù)和所述詞表示數(shù)據(jù)，通過(guò)所述對(duì)話狀態(tài)追蹤模型中的槽值生成解碼器，獲取每個(gè)所述領(lǐng)域下的每個(gè)槽的槽值，得到所述歷史對(duì)話數(shù)據(jù)的對(duì)話狀態(tài)；

其中，所述歷史對(duì)話數(shù)據(jù)包括用戶會(huì)話數(shù)據(jù)、機(jī)器會(huì)話數(shù)據(jù)中的至少一種，所述對(duì)話狀態(tài)追蹤模型通過(guò)多個(gè)已知對(duì)話狀態(tài)的樣本對(duì)話數(shù)據(jù)訓(xùn)練得到，所述對(duì)話狀態(tài)中包括每個(gè)領(lǐng)域下每個(gè)槽的槽值。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述第一句子表示數(shù)據(jù)、待追蹤的領(lǐng)域以及每個(gè)所述領(lǐng)域下待追蹤的槽，通過(guò)對(duì)話狀態(tài)追蹤模型中的圖神經(jīng)網(wǎng)絡(luò)模型，構(gòu)建所述槽之間的關(guān)系以及所述槽與所述歷史對(duì)話數(shù)據(jù)之間的關(guān)系，并獲取編碼后的第二句子表示數(shù)據(jù)和槽表示數(shù)據(jù)的步驟，包括：

根據(jù)所述歷史對(duì)話數(shù)據(jù)中包含的對(duì)話語(yǔ)句的數(shù)量，待追蹤的領(lǐng)域以及每個(gè)所述領(lǐng)域下待追蹤的槽，以在所述圖神經(jīng)網(wǎng)絡(luò)模型中構(gòu)建對(duì)應(yīng)每個(gè)對(duì)話語(yǔ)句的句子節(jié)點(diǎn)，以及對(duì)應(yīng)每個(gè)槽的槽節(jié)點(diǎn)，并設(shè)置每個(gè)節(jié)點(diǎn)之間傳遞信息的邊；

根據(jù)所述第一句子表示數(shù)據(jù)、待追蹤的領(lǐng)域以及每個(gè)所述領(lǐng)域下待追蹤的槽，通過(guò)構(gòu)建完成的圖神經(jīng)網(wǎng)絡(luò)模型，獲取編碼后的第二句子表示數(shù)據(jù)和槽表示數(shù)據(jù)。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述設(shè)置每個(gè)所述節(jié)點(diǎn)之間傳遞信息的邊的步驟，包括：

針對(duì)每個(gè)所述句子節(jié)點(diǎn)，在所述句子節(jié)點(diǎn)與所述句子節(jié)點(diǎn)對(duì)應(yīng)的目標(biāo)句子節(jié)點(diǎn)之間設(shè)置用于進(jìn)行信息傳遞的邊，和/或，在所述句子節(jié)點(diǎn)與每個(gè)所述槽節(jié)點(diǎn)之間設(shè)置用于進(jìn)行信息傳遞的邊；

和/或，針對(duì)每個(gè)所述槽節(jié)點(diǎn)，在所述槽節(jié)點(diǎn)與每個(gè)與所述槽節(jié)點(diǎn)所屬領(lǐng)域相同的槽節(jié)點(diǎn)之間設(shè)置用于進(jìn)行信息傳遞的邊，和/或，在所述槽節(jié)點(diǎn)與每個(gè)與所述槽節(jié)點(diǎn)具有相同槽值類型的槽節(jié)點(diǎn)之間設(shè)置用于進(jìn)行信息傳遞的邊；

其中，所述目標(biāo)句子節(jié)點(diǎn)包括所述句子節(jié)點(diǎn)對(duì)應(yīng)的句子之前的M個(gè)句子的句子節(jié)點(diǎn)、所述句子節(jié)點(diǎn)對(duì)應(yīng)的句子之后的N個(gè)句子的句子節(jié)點(diǎn)中的至少一種，所述M、N均為自然數(shù)。

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，所述根據(jù)所述第二句子表示數(shù)據(jù)、所述槽表示數(shù)據(jù)和所述詞表示數(shù)據(jù)，通過(guò)所述對(duì)話狀態(tài)追蹤模型中的槽值生成解碼器，獲取每個(gè)所述領(lǐng)域下的每個(gè)槽的槽值的步驟，包括：

將和拼接作為預(yù)先訓(xùn)練的槽值生成解碼器的初始狀態(tài)，將作為解碼第j個(gè)槽的槽值的第一步的輸入所述槽值生成解碼器進(jìn)行解碼；

其中，在針對(duì)任意一個(gè)槽進(jìn)行槽值解碼時(shí)，循環(huán)執(zhí)行以下步驟，直至針對(duì)所述槽的槽值解碼結(jié)束，然后進(jìn)入針對(duì)下一個(gè)槽的槽值解碼流程：

S1，當(dāng)解碼任一領(lǐng)域下第j個(gè)槽的槽值中的第k個(gè)詞時(shí)，獲取其在每個(gè)備選詞下的概率分布，所述備選詞包括所述歷史對(duì)話數(shù)據(jù)中包含的每個(gè)詞，以及預(yù)設(shè)的詞匯表中的每個(gè)詞；

S2，獲取概率最大的備選詞作為所述第j槽的槽值中的第k個(gè)詞；

其中，所述j、k均為正整數(shù)，所述表示所述歷史對(duì)話數(shù)據(jù)中最后一個(gè)對(duì)話語(yǔ)句對(duì)應(yīng)的第一句子表示數(shù)據(jù)，所述表示所述歷史對(duì)話數(shù)據(jù)中最后一個(gè)對(duì)話語(yǔ)句對(duì)應(yīng)的第二句子表示數(shù)據(jù)，所述表示所述領(lǐng)域下第j個(gè)槽對(duì)應(yīng)的槽表示數(shù)據(jù)。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述對(duì)話歷史編碼器為BiLSTM網(wǎng)絡(luò)模型，所述圖神經(jīng)網(wǎng)絡(luò)模型為圖卷積神經(jīng)網(wǎng)絡(luò)模型，所述槽值生成解碼器為門控循環(huán)單元。