[發(fā)明專利]基于領(lǐng)域自適應(yīng)的文本信息提取方法、裝置、系統(tǒng)及介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 201810431979.6
• 申請(qǐng)日: 2018-05-08
• 公開（公告）號(hào): CN108664589B
• 公開（公告）日: 2022-03-15
• 發(fā)明（設(shè)計(jì)）人: 陳文亮;盧奇;張民
• 申請(qǐng)（專利權(quán)）人: 蘇州大學(xué)
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F16/33;G06F40/295
• 代理公司: 北京集佳知識(shí)產(chǎn)權(quán)代理有限公司 11227
• 代理人: 羅滿

本申請(qǐng)公開了一種基于領(lǐng)域自適應(yīng)的文本信息提取方法，包括：對(duì)輸入文本進(jìn)行預(yù)處理，得到文本向量；根據(jù)第二領(lǐng)域與第一領(lǐng)域間的共有特征提取參數(shù)提取文本向量的共有特征，根據(jù)第一領(lǐng)域內(nèi)的私有特征提取參數(shù)提取文本向量的私有特征；對(duì)進(jìn)行領(lǐng)域模糊后的共有特征進(jìn)行領(lǐng)域分類；根據(jù)分類結(jié)果以及第一領(lǐng)域的領(lǐng)域信息對(duì)共有特征提取參數(shù)進(jìn)行分析修正；根據(jù)私有特征對(duì)文本向量進(jìn)行相鄰詞語預(yù)測(cè)；根據(jù)預(yù)測(cè)結(jié)果以及文本中的相鄰詞語對(duì)私有特征提取參數(shù)進(jìn)行分析修正。該方法可提升社交媒體等領(lǐng)域的文本分析提取能力。本申請(qǐng)還公開了基于領(lǐng)域自適應(yīng)的文本信息提取裝置、系統(tǒng)及可讀存儲(chǔ)介質(zhì)，具有上述有益效果。

技術(shù)領(lǐng)域

本申請(qǐng)涉及領(lǐng)域自適應(yīng)領(lǐng)域，特別涉及一種基于領(lǐng)域自適應(yīng)的文本信息提取方法、裝置、系統(tǒng)及一種可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

目前大多數(shù)的文本特征信息的提取都是在大規(guī)模人工標(biāo)注語料庫的基礎(chǔ)上用監(jiān)督學(xué)習(xí)的方法訓(xùn)練得到的。在進(jìn)行命名實(shí)體識(shí)別過程中，有些領(lǐng)域(比如新聞?lì)I(lǐng)域等正式文本)可以比較容易獲得大規(guī)模標(biāo)注的數(shù)據(jù)集，在大規(guī)模人工標(biāo)注語料庫的基礎(chǔ)上訓(xùn)練得到識(shí)別系統(tǒng)；但是有些領(lǐng)域，比如社交媒體領(lǐng)域，語料庫相對(duì)缺乏，例如有一份來源于新浪微博被用來監(jiān)督學(xué)習(xí)和評(píng)估的語料，其規(guī)模僅有1890句，這樣的語料大小不足以用來訓(xùn)練模型。由于缺乏大規(guī)模的社交媒體語料導(dǎo)致了該領(lǐng)域的特征提取以及命名實(shí)體識(shí)別存在很大的挑戰(zhàn)。

另外，文本的非正式性是阻礙社交媒體等領(lǐng)域文本信息提取的另一個(gè)因素。圖1展示了一個(gè)新浪微博中一個(gè)文本的示例，可以看到該文本是不合語法的，社交媒體領(lǐng)域提及的實(shí)體很少出現(xiàn)在正式文本中，并且包含錯(cuò)誤的拼寫和噪聲，會(huì)干擾對(duì)實(shí)體的識(shí)別，出于這些原因，在正式文本上訓(xùn)練的識(shí)別系統(tǒng)，例如Newswire語料庫，在處理非正式文本時(shí)會(huì)出現(xiàn)一些下降。

在這種情況下，目前大多采用從多個(gè)不同領(lǐng)域的多個(gè)數(shù)據(jù)集中學(xué)習(xí)，包括源領(lǐng)域標(biāo)注數(shù)據(jù)，目標(biāo)領(lǐng)域標(biāo)注數(shù)據(jù)和目標(biāo)領(lǐng)域未標(biāo)注數(shù)據(jù)，利用領(lǐng)域間的相似性來調(diào)整來自不同領(lǐng)域的數(shù)據(jù)的學(xué)習(xí)率。但是由于不同領(lǐng)域間文書數(shù)據(jù)差異很大，尤其是對(duì)于社交媒體領(lǐng)域的源領(lǐng)域以及目標(biāo)領(lǐng)域的數(shù)據(jù)，可遷移性較差，導(dǎo)致遷移后的社交媒體領(lǐng)域的文本正確率以及召回率低。

因此，如何提高領(lǐng)域遷移性，提升社交媒體等領(lǐng)域的文本分析提取能力，是本領(lǐng)域技術(shù)人員需要解決的技術(shù)問題。

發(fā)明內(nèi)容

本申請(qǐng)的目的是提供一種基于領(lǐng)域自適應(yīng)的文本信息提取方法，該提取方法可以提高領(lǐng)域遷移性，提升社交媒體等領(lǐng)域文本分析提取能力；本申請(qǐng)的另一目的是提供一種基于領(lǐng)域自適應(yīng)的文本信息提取裝置、系統(tǒng)及一種可讀存儲(chǔ)介質(zhì)，具有上述有益效果。

本申請(qǐng)?zhí)峁┮环N文本信息提取方法，包括：

對(duì)進(jìn)行領(lǐng)域模糊后的前一次提取的共有特征進(jìn)行領(lǐng)域分類；

根據(jù)分類結(jié)果以及領(lǐng)域信息對(duì)共有特征提取參數(shù)進(jìn)行分析修正；

根據(jù)前一次提取的私有特征對(duì)前一次處理得到的文本向量進(jìn)行相鄰詞語預(yù)測(cè)；

根據(jù)預(yù)測(cè)結(jié)果以及所述文本中的相鄰詞語對(duì)私有特征提取參數(shù)進(jìn)行分析修正；

對(duì)當(dāng)前輸入文本進(jìn)行預(yù)處理，得到文本向量；其中，所述當(dāng)前輸入文本屬于第一領(lǐng)域；

根據(jù)第二領(lǐng)域與所述第一領(lǐng)域間的修正后的共有特征提取參數(shù)提取所述文本向量的共有特征，根據(jù)所述第一領(lǐng)域內(nèi)的修正后的私有特征提取參數(shù)提取所述文本向量的私有特征。

可選地，所述對(duì)當(dāng)前輸入文本進(jìn)行預(yù)處理包括：

提取所述當(dāng)前輸入文本的字符信息以及詞級(jí)信息，得到字符向量及詞級(jí)向量。

可選地，所述提取所述當(dāng)前輸入文本的字符信息以及詞級(jí)信息前還包括：

篩選出所述當(dāng)前輸入文本中長(zhǎng)度小于閾值的輸入文本；