[發(fā)明專利]基于答案類別和句法指導(dǎo)的案情閱讀理解方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110448963.8
• 申請(qǐng)日: 2021-04-25
• 公開(kāi)（公告）號(hào): CN113076759A
• 公開(kāi)（公告）日: 2021-07-06
• 發(fā)明（設(shè)計(jì)）人: 線巖團(tuán);何正海;相艷;王紅斌;王蒙
• 申請(qǐng)（專利權(quán)）人: 昆明理工大學(xué)
• 主分類號(hào): G06F40/35
• 分類號(hào): G06F40/35;G06F40/295;G06F16/35;G06N3/04
• 代理公司: 昆明人從眾知識(shí)產(chǎn)權(quán)代理有限公司 53204
• 代理人: 何嬌

1.基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述方法包括：

Step1、首先對(duì)訓(xùn)練數(shù)據(jù)中無(wú)答案類、是類否類進(jìn)行數(shù)據(jù)擴(kuò)充；

Step2、然后經(jīng)過(guò)數(shù)據(jù)預(yù)處理將數(shù)據(jù)輸入到詞嵌入層，在詞嵌入層對(duì)篇章和問(wèn)題進(jìn)行向量化；

Step3、緊接著在表示編碼層將文本的詞嵌入、詞性、命名實(shí)體、二進(jìn)制特性、詞注意力、字符注意力以及MT-LSTM向量進(jìn)行拼接綜合文本的整體信息編碼；

Step4、通過(guò)兩層GRU進(jìn)行上下文語(yǔ)義理解；

Step5、然后通過(guò)注意力及融合層進(jìn)行重要信息提取同時(shí)做答案有無(wú)二分類；

Step6、最終利用輸出層獲取答案的起始位置和答案三分類。

2.根據(jù)權(quán)利要求1所述的基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述Step1中，具體是把有答案片段的問(wèn)題對(duì)應(yīng)的篇章中的答案片段刪去和該問(wèn)題一起作為無(wú)答案類來(lái)擴(kuò)充無(wú)答案數(shù)據(jù)，把是否類問(wèn)題中的實(shí)體換成對(duì)應(yīng)實(shí)體的英文表示來(lái)擴(kuò)充是否類數(shù)據(jù)。

3.根據(jù)權(quán)利要求1所述的基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述Step1中，輸入是裁判文書(shū)的案情描述和相關(guān)的問(wèn)題，分別為和經(jīng)數(shù)據(jù)擴(kuò)充及Step2的數(shù)據(jù)預(yù)處理得到相應(yīng)的分詞序列：P＝{p₀,p₁,...,p_n-1}和Q＝{q₀,q₁,...,q_m-1}、分字序列表示：

P＝{{p₁₁,...,p_1l},...,{p_i1,...,p_il},...,{p_n1,...,p_nl}}和

Q＝{{q₁₁,...,q_1l},...,{q_i1,...,q_il},...,{q_m1,...,q_ml}}。

4.根據(jù)權(quán)利要求3所述的基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述Step2中，在詞嵌入層將文本的分詞序列及分字序列輸入到詞嵌入層分別得詞嵌入和字符詞嵌入；

C_i^P＝E(p_i) (1)

C_i^Q＝E(q_i) (2)

C_i·^P＝E(p_i) (3)

C_i·^Q＝E(q_i) (4)

其中，表示篇章經(jīng)詞嵌入編碼的詞嵌入，表示問(wèn)題經(jīng)詞嵌入編碼的詞嵌入，表示篇章經(jīng)詞嵌入編碼的字符詞嵌入，表示問(wèn)題經(jīng)詞嵌入編碼的字符詞嵌入；

為了選出詞組中最能代表詞語(yǔ)意思的那個(gè)字，將字符詞嵌入表示做以下處理：

此時(shí)的表示詞語(yǔ)中最能代表詞語(yǔ)意思的那個(gè)字，這個(gè)字表示用來(lái)和詞級(jí)嵌入向量拼接融合作為整個(gè)模型的詞嵌入表示，并且做下一步的字符注意力。

5.根據(jù)權(quán)利要求1所述的基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述Step5中，在注意力及融合層，通過(guò)問(wèn)題對(duì)篇章的注意力以及篇章自注意力增加與問(wèn)題相關(guān)的信息權(quán)重，然后融合注意力及自注意力結(jié)果。

6.根據(jù)權(quán)利要求1所述的基于答案類別和句法指導(dǎo)的案情閱讀理解方法，其特征在于：所述Step5中，在注意力及融合層，在問(wèn)題對(duì)篇章的注意力之后基于答案標(biāo)簽對(duì)篇章用softmax作二分類，一類為有答案，另一類為無(wú)答案類。