[發(fā)明專(zhuān)利]一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110266908.7
• 申請(qǐng)日: 2021-03-11
• 公開(kāi)（公告）號(hào): CN112925886B
• 公開(kāi)（公告）日: 2022-01-04
• 發(fā)明（設(shè)計(jì)）人: 韓瑞峰;楊紅飛;金霞
• 申請(qǐng)（專(zhuān)利權(quán)）人: 杭州費(fèi)爾斯通科技有限公司
• 主分類(lèi)號(hào): G06F16/33
• 分類(lèi)號(hào): G06F16/33;G06F16/35;G06F40/211;G06F40/295;G16H10/60
• 代理公司: 杭州求是專(zhuān)利事務(wù)所有限公司 33200
• 代理人: 劉靜

1.一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，該方法包括如下步驟：

(1)選取支點(diǎn)特征

統(tǒng)計(jì)n-gram在源領(lǐng)域和目標(biāo)領(lǐng)域的語(yǔ)料中出現(xiàn)的頻次，選取在兩個(gè)領(lǐng)域同時(shí)出現(xiàn)，且頻次超過(guò)閾值詞組作為支點(diǎn)特征詞，通過(guò)支點(diǎn)特征詞將模板“支點(diǎn)特征詞w在右面”、“支點(diǎn)特征詞w在左面”、“支點(diǎn)特征詞w在中間”實(shí)例化，每個(gè)實(shí)例代表一個(gè)維度的支點(diǎn)特征，形成支點(diǎn)特征集，w表示文本句子中的支點(diǎn)特征詞；

(2)建立訓(xùn)練數(shù)據(jù)集，訓(xùn)練支點(diǎn)特征分類(lèi)器

將步驟(1)中的支點(diǎn)特征集作為訓(xùn)練數(shù)據(jù)集，訓(xùn)練一組預(yù)測(cè)樣本句子中是否存在支點(diǎn)特征詞的支點(diǎn)特征分類(lèi)器，具體為：對(duì)每一維支點(diǎn)特征i訓(xùn)練一個(gè)邏輯回歸模型作為支點(diǎn)特征分類(lèi)器，對(duì)樣本句子中的詞判斷是否存在支點(diǎn)特征，訓(xùn)練后得到邏輯回歸模型的系數(shù)w_i，w_i為一個(gè)列向量，其維度為非支點(diǎn)特征的維度數(shù)量，對(duì)全部支點(diǎn)特征構(gòu)成矩陣w＝[w₁,w₂,…,w_M]；w_M表示第M維支點(diǎn)特征，M＝3N，w_i中第j維的數(shù)值w_ij表示第j維非支點(diǎn)特征詞與第i維支點(diǎn)特征詞的相關(guān)性，w_ij為正值表示正相關(guān)；

支點(diǎn)特征分類(lèi)器的樣本輸入：計(jì)算兩個(gè)領(lǐng)域全部句子的n-gram形成n-gram列表，每個(gè)句子的特征為n-gram列表中的詞是否存在于句子中的支點(diǎn)特征詞和非支點(diǎn)特征詞的二值向量，然后去掉句子中全部支點(diǎn)特征詞對(duì)應(yīng)的維度，得到句子的特征向量；

支點(diǎn)特征分類(lèi)器的樣本輸出：輸出維度為1，由于計(jì)算了句子的n-gram特征，如果句子中的某個(gè)非支點(diǎn)特征詞的左面或右面是支點(diǎn)特征詞，那么句子必然至少包含了該支點(diǎn)特征詞的2-gram，此時(shí)這條句子樣本的標(biāo)簽為1，否則標(biāo)簽為0，同時(shí)在該支點(diǎn)特征詞的w_i系數(shù)中對(duì)應(yīng)的項(xiàng)為正值，即句子中的非支點(diǎn)特征詞與該支點(diǎn)特征詞正相關(guān)；

(3)在源領(lǐng)域上訓(xùn)練實(shí)體識(shí)別模型

在源領(lǐng)域語(yǔ)料上訓(xùn)練實(shí)體識(shí)別模型，模型的輸入為一個(gè)句子，輸出為與句子長(zhǎng)度相同的標(biāo)簽序列，標(biāo)記了句子中每個(gè)字的類(lèi)別；

(4)在目標(biāo)領(lǐng)域上進(jìn)行實(shí)體識(shí)別

用步驟(3)中訓(xùn)練好的模型在目標(biāo)領(lǐng)域上進(jìn)行預(yù)測(cè)，利用w矩陣中的相關(guān)性信息，對(duì)目標(biāo)領(lǐng)域中每個(gè)非支點(diǎn)特征詞，用與支點(diǎn)特征詞最相關(guān)并且同時(shí)滿(mǎn)足相關(guān)性大于一定閾值的源領(lǐng)域中的非支點(diǎn)特征詞替換。

2.根據(jù)權(quán)利要求1所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，所述源領(lǐng)域具有帶標(biāo)簽語(yǔ)料和無(wú)標(biāo)簽語(yǔ)料，所述目標(biāo)領(lǐng)域只含有無(wú)標(biāo)簽語(yǔ)料。

3.根據(jù)權(quán)利要求1所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，所述n-gram中的n取值為2。

4.根據(jù)權(quán)利要求1所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，步驟(2)中，w_i的含義表示非支點(diǎn)特征與支點(diǎn)特征之間的協(xié)方差。

5.根據(jù)權(quán)利要求1所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，步驟(2)中，針對(duì)中文語(yǔ)料，對(duì)兩個(gè)領(lǐng)域語(yǔ)料分詞，取所有可能的分詞結(jié)果形成lattice，之后對(duì)全部lattice詞建立n-gram，再用步驟(1)過(guò)程建立樣本，此時(shí)每個(gè)句子包含了句子中全部分詞結(jié)果對(duì)應(yīng)的n-gram。

6.根據(jù)權(quán)利要求5所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，步驟(3)中，針對(duì)中文語(yǔ)料，用lattice分詞作為輸入。

7.根據(jù)權(quán)利要求5所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，步驟(4)中，針對(duì)中文語(yǔ)料，將每個(gè)lattice分詞對(duì)應(yīng)的最相關(guān)的源領(lǐng)域中的非支點(diǎn)詞替換。

8.根據(jù)權(quán)利要求1所述的一種基于領(lǐng)域適應(yīng)的少樣本實(shí)體識(shí)別方法，其特征在于，步驟(4)中，若預(yù)測(cè)結(jié)果替換時(shí)長(zhǎng)度不一致，則應(yīng)對(duì)造成的偏移進(jìn)行處理。