[發明專利]郵件內容提取方法、裝置、電子設備及存儲介質

在審

• 申請號: 202011095137.1
• 申請日: 2020-10-14
• 公開（公告）號: CN112184178A
• 公開（公告）日: 2021-01-05
• 發明（設計）人: 徐國誠
• 申請（專利權）人: 深圳壹賬通智能科技有限公司
• 主分類號: G06Q10/10
• 分類號: G06Q10/10;G06F40/117;G06F40/295;G06K9/62;G06N3/04
• 代理公司: 深圳市賽恩倍吉知識產權代理有限公司 44334
• 代理人: 遲珊珊

1.一種郵件內容提取方法，其特征在于，所述方法包括：

獲取第一郵件數據集，標注所述第一郵件數據集中的每一郵件得到第一訓練數據集；

使用所述第一訓練數據集訓練BERT模型，得到第一模型；

獲取第二郵件數據集，標注所述第二郵件數據集中的每一郵件得到第二訓練數據集；

使用所述第二訓練數據集訓練BERT-LSTM-CRF模型，得到第二模型；

接收郵件段落和問題；

加載所述第一模型和所述第二模型，將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到與所述郵件段落和所述問題對應的提取結果，并輸出所述提取結果。

2.如權利要求1所述的郵件內容提取方法，其特征在于，所述標注所述第一郵件數據集中的每一郵件包括：

將所述第一郵件數據集中的每一郵件的郵件內容標注為第一標記，將預設的問題標注為第二標記，將所述郵件內容中與所述預設問題對應的答案標注為第三標記。

3.如權利要求2所述的郵件內容提取方法，其特征在于，所述使用所述第一訓練數據集訓練BERT模型，得到第一模型包括：

將所述第一訓練數據集中所述第一標記對應的數據和所述第二標記對應的數據作為所述BERT模型的輸入，將所述第一訓練數據集中的所述第三標記對應的答案作為所述BERT模型的輸出，優化所述BERT模型，得到所述第一模型。

4.如權利要求1所述的郵件內容提取方法，其特征在于，標注所述第二郵件數據集中的每一郵件包括：

使用BIO標注方法標注所述第二郵件數據集中的每一郵件中的每一字符，得到標記序列，所述每一郵件與對應的標記序列組成所述第二訓練數據集。

5.如權利要求4所述的郵件內容提取方法，其特征在于，所述使用BERT-LSTM-CRF模型訓練所述第二訓練數據集，得到第二模型包括：

將所述第二訓練數據集中的郵件文本內容作為所述BERT-LSTM-CRF模型的輸入數據，將所述第二訓練數據集中的所述標記序列作為所述BERT-LSTM-CRF模型的期望輸出，優化所述BERT-LSTM-CRF模型，得到第二模型。

6.如權利要求5所述的郵件內容提取方法，其特征在于，所述BERT-LSTM-CRF模型先通過BERT模型獲得所述郵件內容的字嵌入序列，然后將所述字嵌入序列輸入長短期記憶網絡模型中進行語義編碼，最后通過條件隨機場模型進行解碼，并輸出概率最大的標記序列。

7.如權利要求1所述的郵件內容提取方法，其特征在于，加載所述第一模型和所述第二模型，并將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到與所述郵件段落和所述問題對應的提取結果包括：

將所述郵件段落和所述問題輸入所述第一模型得到第一輸出；

當所述第一輸出為非空時，將所述第一輸出作為提取結果；

當所述第一輸出為空時，加載所述第二模型，并將所述郵件段落和所述問題輸入所述第二模型得到第二輸出，將所述第二輸出作為所述提取結果。

8.一種郵件內容提取裝置，其特征在于，所述裝置包括：

第一數據標注模塊，用于獲取第一郵件數據集，標注所述第一郵件數據集中的每一郵件得到第一訓練數據集；

第一模型訓練模塊，用于使用所述第一訓練數據集訓練BERT模型，得到第一模型；

第二數據標注模塊，用于獲取第二郵件數據集，標注所述第二郵件數據集中的每一郵件得到第二訓練數據集；

第二模型訓練模塊，用于使用所述第二訓練數據集訓練BERT-LSTM-CRF模型，得到第二模型；

接收模塊，用于接收郵件段落和問題；

提取模塊，用于加載所述第一模型和所述第二模型，將所述郵件段落和所述問題輸入所述第一模型或所述第二模型得到與所述郵件段落和所述問題對應的提取結果，并輸出所述提取結果。