[發(fā)明專利]一種基于LSTM-CRF的中醫(yī)臨床醫(yī)案癥狀命名實(shí)體抽取系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202111279393.0
• 申請(qǐng)日: 2021-10-29
• 公開（公告）號(hào): CN113962227A
• 公開（公告）日: 2022-01-21
• 發(fā)明（設(shè)計(jì)）人: 林麗開;李剛;丁海雁
• 申請(qǐng)（專利權(quán)）人: 南京醫(yī)路云數(shù)字科技研究院有限公司
• 主分類號(hào): G06F40/295
• 分類號(hào): G06F40/295;G06N3/04;G06F16/35
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

本發(fā)明屬于中醫(yī)臨床技術(shù)領(lǐng)域，尤其為一種基于LSTM?CRF的中醫(yī)臨床醫(yī)案癥狀命名實(shí)體抽取系統(tǒng)，包括LSTM?CRF網(wǎng)絡(luò)模型，所述LSTM?CRF網(wǎng)絡(luò)模型包括輸入層、特征提取層、LSTM層和CRF層；所述輸入層用于獲取中醫(yī)臨床醫(yī)案癥狀的文本信息；所述特征提取層用于對(duì)輸入的文本信息的每一個(gè)字進(jìn)行特征提取，并制定特征模板；所述LSTM層用于自動(dòng)提取文字的特征；所述CRF層用于文字級(jí)別的序列標(biāo)注，生成最優(yōu)標(biāo)注序列；本發(fā)明的命名實(shí)體抽取系統(tǒng)，利用新型的LSTM?CRF網(wǎng)絡(luò)模型，并將輸入的詞條信息分成獨(dú)立的文字，并且將文字按照偏旁部首的不同進(jìn)行分類，大大提升了分詞和字性標(biāo)記的性能，識(shí)別能力大大提高，對(duì)于復(fù)雜實(shí)體也能夠較為精準(zhǔn)的識(shí)別和標(biāo)記，降低了系統(tǒng)的錯(cuò)誤率。

技術(shù)領(lǐng)域

本發(fā)明屬于中醫(yī)臨床技術(shù)領(lǐng)域，具體涉及一種基于LSTM-CRF的中醫(yī)臨床醫(yī)案癥狀命名實(shí)體抽取系統(tǒng)。

背景技術(shù)

中醫(yī)的臨床本身是以中醫(yī)理論為依托，即運(yùn)用中醫(yī)理論有效地指導(dǎo)中醫(yī)臨床實(shí)踐，從診法到辨證直至選方用藥都離不開中醫(yī)理論。

隨著深度神經(jīng)網(wǎng)絡(luò)的發(fā)展，深度學(xué)習(xí)不僅占據(jù)了模式識(shí)別等領(lǐng)域的統(tǒng)治地位，而且已應(yīng)用到自然語(yǔ)言處理的各個(gè)方面，如中文命名實(shí)體識(shí)別，在對(duì)中醫(yī)臨床醫(yī)案癥狀命名進(jìn)行識(shí)別時(shí)，構(gòu)件了內(nèi)嵌條件隨機(jī)場(chǎng)的長(zhǎng)短時(shí)神經(jīng)網(wǎng)絡(luò)模型，使用長(zhǎng)短時(shí)神經(jīng)網(wǎng)絡(luò)模型隱含層的上下文向量作為輸出層標(biāo)注的特征，使用內(nèi)嵌的條件隨機(jī)場(chǎng)模型表示標(biāo)注之間的約束關(guān)系。

在智慧醫(yī)療的大背景下，促進(jìn)中醫(yī)醫(yī)學(xué)的發(fā)展已成為國(guó)家發(fā)展戰(zhàn)略，而中醫(yī)臨床醫(yī)案癥狀是中醫(yī)醫(yī)學(xué)的核心之一，也是準(zhǔn)確適應(yīng)“對(duì)癥下藥”措施以及進(jìn)一步查詢和分析的關(guān)鍵，如何從海量中醫(yī)臨床醫(yī)案癥狀集中自動(dòng)識(shí)別專有詞匯并加以歸類，是中醫(yī)醫(yī)學(xué)數(shù)字化發(fā)展的關(guān)鍵，從醫(yī)案中識(shí)別病名、藥方等常見(jiàn)醫(yī)學(xué)術(shù)語(yǔ)，一直以來(lái)都是醫(yī)學(xué)領(lǐng)域研究的重點(diǎn)，其對(duì)醫(yī)學(xué)的發(fā)展、經(jīng)驗(yàn)知識(shí)的獲得以及輔助醫(yī)生臨床決策等都起到了至關(guān)重要的作用。

隨著科學(xué)技術(shù)的發(fā)展，以及人們對(duì)深度神經(jīng)網(wǎng)絡(luò)研究的伸入，利用深度學(xué)習(xí)方法進(jìn)行實(shí)體識(shí)別，逐步取代了傳統(tǒng)的人工分類方法，其準(zhǔn)確率和識(shí)別效率都更高，但是，傳統(tǒng)用于中醫(yī)臨床醫(yī)案癥狀命名實(shí)體識(shí)別的識(shí)別類型還局限于一些如病名的簡(jiǎn)單實(shí)體，對(duì)于復(fù)雜實(shí)體來(lái)說(shuō)，識(shí)別精度和效率會(huì)大打折扣。

發(fā)明內(nèi)容

為解決現(xiàn)有技術(shù)中存在的上述問(wèn)題，本發(fā)明提供了一種基于LSTM-CRF的中醫(yī)臨床醫(yī)案癥狀命名實(shí)體抽取系統(tǒng)，具有識(shí)別精度高的特點(diǎn)。

為實(shí)現(xiàn)上述目的，本發(fā)明提供如下技術(shù)方案：一種基于LSTM-CRF的中醫(yī)臨床醫(yī)案癥狀命名實(shí)體抽取系統(tǒng)，包括LSTM-CRF網(wǎng)絡(luò)模型，所述LSTM-CRF網(wǎng)絡(luò)模型包括輸入層、特征提取層、LSTM層和CRF層；所述輸入層用于獲取中醫(yī)臨床醫(yī)案癥狀的文本信息；所述特征提取層用于對(duì)輸入的文本信息的每一個(gè)字進(jìn)行特征提取，并制定特征模板；所述LSTM層用于自動(dòng)提取文字的特征；所述CRF層用于文字級(jí)別的序列標(biāo)注，生成最優(yōu)標(biāo)注序列。

作為本發(fā)明的一種優(yōu)選技術(shù)方案，所述特征提取層提取的文字特征包括文字的字符特征、字性特征、偏旁部首特征以及字意特征，對(duì)輸入文字信息的每一個(gè)字進(jìn)行標(biāo)注，生成單個(gè)字的輸出特征，所有字的輸出特征組成特征序列。

作為本發(fā)明的一種優(yōu)選技術(shù)方案，所述特征提取層中，是依據(jù)中醫(yī)臨床醫(yī)案癥狀類別標(biāo)簽和BMEWO標(biāo)記法對(duì)輸入的每一個(gè)字進(jìn)行標(biāo)注。

作為本發(fā)明的一種優(yōu)選技術(shù)方案，所述特征提取層包括兩個(gè)LSTM深度網(wǎng)絡(luò)，且兩個(gè)LSTM深度網(wǎng)絡(luò)拼接成雙向LSTM深度網(wǎng)絡(luò)。

作為本發(fā)明的一種優(yōu)選技術(shù)方案，所述雙向LSTM深度網(wǎng)絡(luò)包括輸入門、忘記門和輸出門，其中：

輸入門，根據(jù)網(wǎng)絡(luò)需要制定有用的信息輸入，阻斷無(wú)用的信息輸入；

忘記門，選擇有價(jià)值的信息保存在網(wǎng)絡(luò)中；

輸出門，控制序列輸出對(duì)當(dāng)前標(biāo)注有用的信息，防止對(duì)當(dāng)前標(biāo)注無(wú)用的信息輸出。