[發明專利]一種基于句子語義替換的電子病歷文本數據增強方法

有效

• 申請號: 202110099780.X
• 申請日: 2021-01-25
• 公開（公告）號: CN112836047B
• 公開（公告）日: 2022-05-27
• 發明（設計）人: 利建鑫;任江濤
• 申請（專利權）人: 中山大學
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/36;G06F40/211;G06F40/30;G06K9/62;G16H10/60;G16H50/70
• 代理公司: 廣州粵高專利商標代理有限公司 44102
• 代理人: 林麗明

1.一種基于句子語義替換的電子病歷文本數據增強方法，其特征在于，包括：

S1、獲取待處理的原始文本；

S2、將所述原始文本拆分為多個原始句子，根據逗號、分號或句號將所述原始文本進行分句；

S3、將所述原始句子替換成語義相同或相似的樣本句子，包括：

S3.1、構建句子語料庫；將已獲得的數據集中的各樣本文本進行分類，將樣本文本拆分成多個樣本句子，屬于同一類別的樣本文本中的各個樣本句子構成該類別的句子語料庫；根據疾病類型將各所述樣本文本進行分類；

S3.2、根據所述原始句子與所述句子語料庫中的每個樣本句子的相似度，從句子語料庫中采樣一個樣本句子來替換所述原始句子；在所述原始文本所屬類別的句子語料庫中進行采樣；將原始文本定義為x_i,x_i是一段文本，由多個句子s_j組成，即y_j∈{1,...C}，y_j為文本x_i所屬的類別，C代表某一具體的類別；將句子語料庫定為K_C,K_C由類別為C的多個樣本文本的所有樣本句子組成，即y_j＝C，q為樣本文本的個數，C為樣本文本所屬的類別；

使用編碼器g_θ對原始句子s_j進行編碼，得到原始句子s_j的向量表示d為向量的維度，編碼器g_θ為預訓練語言模型；

使用編碼器g_θ對句子語料庫K_C中的每一個樣本句子進行編碼，得到樣本句子的向量表示

計算原始句子s_j與樣本句子的相似度：

其中，相似度向量P＝[p₁,...,p_k]，p_k表示原始句子s_j與句子語料庫K_C中第k個樣本句子的相似度。

2.根據權利要求1所述的基于句子語義替換的電子病歷文本數據增強方法，其特征在于，對相似度向量P進行歸一化處理，得到一個概率分布，根據所述概率分布從所述句子語料庫中進行采樣替換。

3.根據權利要求1所述的基于句子語義替換的電子病歷文本數據增強方法，其特征在于，所述預訓練語言模型為BERT模型或XLM模型。

4.根據權利要求1所述的基于句子語義替換的電子病歷文本數據增強方法，其特征在于，在S3.2中，還包括：

S3.2.1、生成一個隨機數r，r為0-1中的任意一個數，若隨機數r小于預設的p值，則根據相似度替換該原始句子，否則不進行替換。

5.根據權利要求1所述的基于句子語義替換的電子病歷文本數據增強方法，其特征在于，獲取一份疾病分類數據集，所述原始文本為所述疾病分類數據集中的一個樣本文本，將所述疾病分類數據集根據疾病類型將各樣本文本進行分類，對于樣本文本數量較少的疾病類型中的各樣本文本進行句子替換。