[發(fā)明專利]郵件內(nèi)容提取方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011095137.1
• 申請(qǐng)日: 2020-10-14
• 公開（公告）號(hào): CN112184178A
• 公開（公告）日: 2021-01-05
• 發(fā)明（設(shè)計(jì)）人: 徐國誠
• 申請(qǐng)（專利權(quán)）人: 深圳壹賬通智能科技有限公司
• 主分類號(hào): G06Q10/10
• 分類號(hào): G06Q10/10;G06F40/117;G06F40/295;G06K9/62;G06N3/04
• 代理公司: 深圳市賽恩倍吉知識(shí)產(chǎn)權(quán)代理有限公司 44334
• 代理人: 遲珊珊

本發(fā)明涉及一種郵件內(nèi)容提取方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。所述方法包括：獲取第一郵件數(shù)據(jù)集，標(biāo)注所述第一郵件數(shù)據(jù)集得到第一訓(xùn)練數(shù)據(jù)集；使用所述第一訓(xùn)練數(shù)據(jù)集得到第一模型；獲取第二郵件數(shù)據(jù)集，標(biāo)注所述第二郵件數(shù)據(jù)集得到第二訓(xùn)練數(shù)據(jù)集；使用所述第二訓(xùn)練數(shù)據(jù)集得到第二模型；接收郵件段落和問題；加載所述第一模型和所述第二模型，將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到提取結(jié)果。本發(fā)明以效果更好的第一模型為主，以第二模型作為補(bǔ)充，可以應(yīng)用于提取不同郵件內(nèi)容，很大程度上提高了內(nèi)容提取功能的實(shí)用性。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能中的文本內(nèi)容提取技術(shù)領(lǐng)域，具體涉及一種郵件內(nèi)容提取方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

現(xiàn)有技術(shù)中，郵件內(nèi)容提取大多使用基于正則表達(dá)式的內(nèi)容提取方法，這種方法通常需要很大的工作量且適用的場景有限。

發(fā)明內(nèi)容

鑒于以上內(nèi)容，有必要提出一種郵件內(nèi)容提取方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)以實(shí)現(xiàn)對(duì)郵件中的信息的快速提取。

本申請(qǐng)的第一方面提供一種郵件內(nèi)容提取方法，所述方法包括：

獲取第一郵件數(shù)據(jù)集，標(biāo)注所述第一郵件數(shù)據(jù)集中的每一郵件得到第一訓(xùn)練數(shù)據(jù)集；

使用所述第一訓(xùn)練數(shù)據(jù)集訓(xùn)練BERT模型，得到第一模型；

獲取第二郵件數(shù)據(jù)集，標(biāo)注所述第二郵件數(shù)據(jù)集中的每一郵件得到第二訓(xùn)練數(shù)據(jù)集；

使用所述第二訓(xùn)練數(shù)據(jù)集訓(xùn)練BERT-LSTM-CRF模型，得到第二模型；

接收郵件段落和問題；

加載所述第一模型和所述第二模型，將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到與所述郵件段落和所述問題對(duì)應(yīng)的提取結(jié)果，并輸出所述提取結(jié)果。

優(yōu)選地，所述標(biāo)注所述第一郵件數(shù)據(jù)集中的每一郵件包括：

將所述第一郵件數(shù)據(jù)集中的每一郵件的郵件內(nèi)容標(biāo)注為第一標(biāo)記，將預(yù)設(shè)的問題標(biāo)注為第二標(biāo)記，將所述郵件內(nèi)容中與所述預(yù)設(shè)問題對(duì)應(yīng)的答案標(biāo)注為第三標(biāo)記。

優(yōu)選地，所述使用所述第一訓(xùn)練數(shù)據(jù)集訓(xùn)練BERT模型，得到第一模型包括：

將所述第一訓(xùn)練數(shù)據(jù)集中所述第一標(biāo)記對(duì)應(yīng)的數(shù)據(jù)和所述第二標(biāo)記對(duì)應(yīng)的數(shù)據(jù)作為所述BERT模型的輸入，將所述第一訓(xùn)練數(shù)據(jù)集中的所述第三標(biāo)記對(duì)應(yīng)的答案作為所述BERT模型的輸出，優(yōu)化所述BERT模型，得到所述第一模型。

優(yōu)選地，標(biāo)注所述第二郵件數(shù)據(jù)集中的每一郵件包括：

使用BIO標(biāo)注方法標(biāo)注所述第二郵件數(shù)據(jù)集中的每一郵件中的每一字符，得到標(biāo)記序列，所述每一郵件與對(duì)應(yīng)的標(biāo)記序列組成所述第二訓(xùn)練數(shù)據(jù)集。

優(yōu)選地，所述使用BERT-LSTM-CRF模型訓(xùn)練所述第二訓(xùn)練數(shù)據(jù)集，得到第二模型包括：

將所述第二訓(xùn)練數(shù)據(jù)集中的郵件文本內(nèi)容作為所述BERT-LSTM-CRF模型的輸入數(shù)據(jù)，將所述第二訓(xùn)練數(shù)據(jù)集中的所述標(biāo)記序列作為所述BERT-LSTM-CRF模型的期望輸出，優(yōu)化所述BERT-LSTM-CRF模型，得到第二模型。

優(yōu)選地，所述BERT-LSTM-CRF模型先通過BERT模型獲得所述郵件內(nèi)容的字嵌入序列，然后將所述字嵌入序列輸入長短期記憶網(wǎng)絡(luò)模型中進(jìn)行語義編碼，最后通過條件隨機(jī)場模型進(jìn)行解碼，并輸出概率最大的標(biāo)記序列。

優(yōu)選地，加載所述第一模型和所述第二模型，并將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到與所述郵件段落和所述問題對(duì)應(yīng)的提取結(jié)果包括：

將所述郵件段落和所述問題輸入所述第一模型得到第一輸出；