[發(fā)明專利]一種基于問(wèn)答模式的金融事件主體抽取方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010321839.0
• 申請(qǐng)日: 2020-04-22
• 公開(kāi)（公告）號(hào): CN111522906B
• 公開(kāi)（公告）日: 2023-03-28
• 發(fā)明（設(shè)計(jì)）人: 劉玓;彭灣灣;鄒馨儀;羅瑜;汪騰睿
• 申請(qǐng)（專利權(quán)）人: 電子科技大學(xué)
• 主分類號(hào): G06F16/31
• 分類號(hào): G06F16/31;G06F16/332;G06F16/35;G06F16/36
• 代理公司: 北京正華智誠(chéng)專利代理事務(wù)所(普通合伙) 11870
• 代理人: 韋海英

1.一種基于問(wèn)答模式的金融事件主體抽取方法，其特征在于，包括以下步驟：

S1、對(duì)財(cái)經(jīng)新聞文本以其逗號(hào)分隔出的短句為單位，形成短句文本序列，并對(duì)短句文本序列中的每個(gè)短句先進(jìn)行分詞處理再進(jìn)行去停用詞處理，得到詞序列；

S2、根據(jù)各短句的詞序列，得到事件類型序列；

S3、判斷事件類型序列是否為空集，若是，則跳轉(zhuǎn)至步驟S4，若否，則跳轉(zhuǎn)至步驟S5；

S4、將特殊問(wèn)題加入每一個(gè)輸入的短句文本序列中，構(gòu)成多個(gè)問(wèn)題答案序列，進(jìn)入步驟S7；

S5、對(duì)事件類型序列中的每個(gè)事件類型生成自然語(yǔ)言問(wèn)題，得到自然語(yǔ)言問(wèn)題序列；

S6、將自然語(yǔ)言問(wèn)題序列中的每一個(gè)自然語(yǔ)言問(wèn)題依次加入每一個(gè)輸入的短句文本序列中，構(gòu)成多個(gè)問(wèn)題答案序列；

S7、將多個(gè)問(wèn)題答案序列輸入雙向Transformer架構(gòu)模型，得到事件主體序列；

所述步驟S2包括以下分步驟：

S21、對(duì)詞序列中的詞語(yǔ)做詞頻統(tǒng)計(jì)，得到一階詞頻；

S22、對(duì)序列中的詞語(yǔ)進(jìn)行二階組合，并計(jì)算得到的二階組合詞的二階詞頻；

S23、計(jì)算二階組合詞的左信息熵和右信息熵；

S24、根據(jù)一階詞頻和二階詞頻計(jì)算互信息值；

S25、將左信息熵、右信息熵和互信息值之和作為二階組合詞的總信息值；

S26、將所有二階組合詞的總信息值進(jìn)行比較，得到總信息值最高的二階組合詞；

S27、將總信息值最高的二階組合詞作為當(dāng)前短句對(duì)應(yīng)的事件類型；

S28、將各短句對(duì)應(yīng)的事件類型組成事件類型序列。

2.根據(jù)權(quán)利要求1所述的基于問(wèn)答模式的金融事件主體抽取方法，其特征在于，所述步驟S1中的分詞處理包括：先驗(yàn)知識(shí)的特征約束和序列標(biāo)注。

3.根據(jù)權(quán)利要求2所述的基于問(wèn)答模式的金融事件主體抽取方法，其特征在于，所述序列標(biāo)注的方法為：通過(guò)先驗(yàn)知識(shí)的特征約束，使用條件隨機(jī)場(chǎng)算法，以“BIS”標(biāo)簽對(duì)各短句中每個(gè)漢字進(jìn)行標(biāo)注。

4.根據(jù)權(quán)利要求1所述的基于問(wèn)答模式的金融事件主體抽取方法，其特征在于，所述步驟S23中的左信息熵的計(jì)算公式為：

所述步驟S23中的右信息熵的計(jì)算公式為：

所述步驟S24中的互信息值的計(jì)算公式為：

其中，H_L(y_i-1，y_i)為二階組合詞的(y_i-1，y_i)的左信息熵，H_R(y_i-1，y_i)為二階組合詞(y_i-1，y_i)的右信息熵，MI(y_i-1，y_i)為二階組合詞的(y_i-1，y_i)的互信息值，(y_i-1，y_i)為第i-1詞語(yǔ)和第i詞語(yǔ)構(gòu)成的二階組合詞，W為二階組合詞組成的集合，A為二階組合詞(y_i-1，y_i)左邊詞語(yǔ)的集合，B為二階組合詞(y_i-1，y_i)右邊詞語(yǔ)的集合，a為集合A中的詞語(yǔ)，b為集合B中的詞語(yǔ)，P((a，y_i-1，y_i)|y_i-1)為集合A中出現(xiàn)a的概率，P((y_i-1，y_i，b)|y_i)為集合B中出現(xiàn)b的概率，P(y_i-1，y_i)為二階詞頻，P(y_i-1)為y_i-1的一階詞頻，P(y_i)為y_i的一階詞頻，1≤i≤n，n為詞序列的長(zhǎng)度。

5.根據(jù)權(quán)利要求1所述的基于問(wèn)答模式的金融事件主體抽取方法，其特征在于，所述步驟S7包括以下分步驟：

S71、構(gòu)建雙向Transformer架構(gòu)模型，并對(duì)其進(jìn)行訓(xùn)練直至收斂；

S72、將多個(gè)問(wèn)題答案序列輸入雙向Transformer架構(gòu)模型，通過(guò)雙向Transformer架構(gòu)模型的編碼器提取語(yǔ)義特征，得到輸入文本的語(yǔ)義向量；

S73、根據(jù)輸入文本的語(yǔ)義向量，通過(guò)雙向Transformer架構(gòu)模型的編碼器生成輸出文本語(yǔ)義向量；

S74、將輸出文本語(yǔ)義向量通過(guò)全連接網(wǎng)絡(luò)的映射得到事件主體。