[發(fā)明專利]文本語(yǔ)義理解方法、裝置和系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201710112693.7
• 申請(qǐng)日: 2017-02-28
• 公開(kāi)（公告）號(hào): CN106897268B
• 公開(kāi)（公告）日: 2020-06-02
• 發(fā)明（設(shè)計(jì)）人: 劉也寬;胡加學(xué);孫勝杰;王震
• 申請(qǐng)（專利權(quán)）人: 科大訊飛股份有限公司
• 主分類號(hào): G06F40/30
• 分類號(hào): G06F40/30
• 代理公司: 北京清亦華知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 張潤(rùn)

本申請(qǐng)?zhí)岢鲆环N文本語(yǔ)義理解方法、裝置和系統(tǒng)，該方法包括：接收待語(yǔ)義理解的文本；根據(jù)預(yù)先構(gòu)建的深度殘差網(wǎng)絡(luò)模型，對(duì)所述待語(yǔ)義理解的文本進(jìn)行語(yǔ)義理解，得到語(yǔ)義理解結(jié)果。該方法能夠提升文本語(yǔ)義理解效果。

技術(shù)領(lǐng)域

本申請(qǐng)涉及自然語(yǔ)言理解技術(shù)領(lǐng)域，尤其涉及一種文本語(yǔ)義理解方法、裝置和系統(tǒng)。

背景技術(shù)

作為人工智能領(lǐng)域中重要方向之一的自然語(yǔ)言理解技術(shù)，一直是相關(guān)領(lǐng)域研究人員研究的熱點(diǎn)。特別是近年來(lái)，隨著移動(dòng)互聯(lián)網(wǎng)技術(shù)的迅速發(fā)展，信息化程度日益提高，人們?cè)桨l(fā)渴望能讓機(jī)器理解自然語(yǔ)言，從而實(shí)現(xiàn)減少人工投入、海量數(shù)據(jù)共享等目標(biāo)。

相關(guān)技術(shù)中，主流方法是基于循環(huán)神經(jīng)網(wǎng)絡(luò)的文本語(yǔ)義理解方法和基于卷積神經(jīng)網(wǎng)絡(luò)的文本語(yǔ)義理解方法。但是，通常的循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)都難以優(yōu)化，具體而言，如果不增加深度，文本語(yǔ)義理解效果較差，而如果增加深度，訓(xùn)練和優(yōu)化的錯(cuò)誤率就會(huì)增加，難以得到準(zhǔn)確的訓(xùn)練模型，從而語(yǔ)義理解錯(cuò)誤率也較高。因此，相關(guān)技術(shù)中的文本語(yǔ)義理解方法的效果并不理想。

發(fā)明內(nèi)容

本申請(qǐng)旨在至少在一定程度上解決相關(guān)技術(shù)中的技術(shù)問(wèn)題之一。

為此，本申請(qǐng)的一個(gè)目的在于提出一種文本語(yǔ)義理解方法，該方法可以提升文本語(yǔ)義理解效果。

本申請(qǐng)的另一個(gè)目的在于提出一種文本語(yǔ)義理解裝置。

本申請(qǐng)的另一個(gè)目的在于提出一種文本語(yǔ)義理解系統(tǒng)。

為達(dá)到上述目的，本申請(qǐng)第一方面實(shí)施例提出的文本語(yǔ)義理解方法，包括：接收待語(yǔ)義理解的文本；根據(jù)預(yù)先構(gòu)建的深度殘差網(wǎng)絡(luò)模型，對(duì)所述待語(yǔ)義理解的文本進(jìn)行語(yǔ)義理解，得到語(yǔ)義理解結(jié)果。

為達(dá)到上述目的，本申請(qǐng)第二方面實(shí)施例提出的文本語(yǔ)義理解裝置，包括：接收模塊，用于接收待語(yǔ)義理解的文本；語(yǔ)義理解模塊，用于根據(jù)預(yù)先構(gòu)建的深度殘差網(wǎng)絡(luò)模型，對(duì)所述待語(yǔ)義理解的文本進(jìn)行語(yǔ)義理解，得到語(yǔ)義理解結(jié)果。

為達(dá)到上述目的，本申請(qǐng)第三方面實(shí)施例提出的文本語(yǔ)義理解系統(tǒng)，包括：客戶端，用于接收用戶輸入的待語(yǔ)義理解的文本；服務(wù)端，用于接收客戶端發(fā)送的所述待語(yǔ)義理解的文本，以及，根據(jù)預(yù)先構(gòu)建的深度殘差網(wǎng)絡(luò)模型，對(duì)所述待語(yǔ)義理解的文本進(jìn)行語(yǔ)義理解，得到語(yǔ)義理解結(jié)果。

本申請(qǐng)實(shí)施例中，在文本語(yǔ)義理解時(shí)引入深度殘差網(wǎng)絡(luò)模型，由于深度殘差網(wǎng)絡(luò)存在捷徑(shortcut)，使得網(wǎng)絡(luò)間的數(shù)據(jù)流通更為順暢，利于增加網(wǎng)絡(luò)深度，進(jìn)而可以采用更深層網(wǎng)絡(luò)對(duì)數(shù)據(jù)進(jìn)行更好擬合以及對(duì)特征進(jìn)行更高層的抽象，從而提升文本語(yǔ)義理解效果。

本申請(qǐng)附加的方面和優(yōu)點(diǎn)將在下面的描述中部分給出，部分將從下面的描述中變得明顯，或通過(guò)本申請(qǐng)的實(shí)踐了解到。

附圖說(shuō)明

本申請(qǐng)上述的和/或附加的方面和優(yōu)點(diǎn)從下面結(jié)合附圖對(duì)實(shí)施例的描述中將變得明顯和容易理解，其中：

圖1是本申請(qǐng)一個(gè)實(shí)施例提出的文本語(yǔ)義理解方法的流程示意圖；

圖2是本申請(qǐng)另一個(gè)實(shí)施例提出的文本語(yǔ)義理解方法的流程示意圖；

圖3是本申請(qǐng)實(shí)施例中構(gòu)建深度殘差網(wǎng)絡(luò)模型的方法的流程示意圖；

圖4是本申請(qǐng)實(shí)施例中的深度殘差網(wǎng)絡(luò)模型的一種拓?fù)浣Y(jié)構(gòu)示意圖；

圖5是本申請(qǐng)實(shí)施例中注意力層的一種運(yùn)算過(guò)程示意圖；

圖6是本申請(qǐng)一個(gè)實(shí)施例提出的文本語(yǔ)義理解裝置的結(jié)構(gòu)示意圖；

圖7是本申請(qǐng)另一個(gè)實(shí)施例提出的文本語(yǔ)義理解裝置的結(jié)構(gòu)示意圖；

圖8是本申請(qǐng)一個(gè)實(shí)施例提出的文本語(yǔ)義理解系統(tǒng)的結(jié)構(gòu)示意圖。

具體實(shí)施方式