[發(fā)明專利]文本識別方法、電子設(shè)備及計算機可讀介質(zhì)有效
| 申請?zhí)枺?/td> | 202011230268.6 | 申請日: | 2020-11-06 |
| 公開(公告)號: | CN112036122B | 公開(公告)日: | 2021-02-23 |
| 發(fā)明(設(shè)計)人: | 趙佳福;劉瓊瓊;劉子韜 | 申請(專利權(quán))人: | 北京世紀好未來教育科技有限公司 |
| 主分類號: | G06F40/126 | 分類號: | G06F40/126;G06F16/35 |
| 代理公司: | 北京合智同創(chuàng)知識產(chǎn)權(quán)代理有限公司 11545 | 代理人: | 李杰;蘭淑鐸 |
| 地址: | 100086 北京市海淀區(qū)中*** | 國省代碼: | 北京;11 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 文本 識別 方法 電子設(shè)備 計算機 可讀 介質(zhì) | ||
1.一種文本識別方法,其特征在于,所述方法包括:
將待識別文本輸入域分離網(wǎng)絡(luò)DSN模型,獲取所述DSN模型中目標域的私有編碼器和共享編碼器分別進行編碼后生成的、包含所述私有編碼器編碼后的私有編碼和所述共享編碼器編碼后的共享編碼的編碼數(shù)據(jù),其中,所述私有編碼器和所述共享編碼器均為基于自注意力機制的編碼器;
根據(jù)所述編碼數(shù)據(jù),對所述待識別文本進行文本分類;
在所述將待識別文本輸入域分離網(wǎng)絡(luò)DSN模型之前,所述方法還包括:
獲取訓(xùn)練樣本,所述訓(xùn)練樣本包括轉(zhuǎn)錄文本樣本、有標注轉(zhuǎn)錄文本樣本和語音識別文本樣本;所述有標注轉(zhuǎn)錄文本為標注了文本類別的轉(zhuǎn)錄文本;使用所述訓(xùn)練樣本,對所述DSN模型進行訓(xùn)練。
2.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述基于自注意力機制的編碼器為Transformer編碼器。
3.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述使用所述訓(xùn)練樣本,對所述DSN模型進行訓(xùn)練,包括:
將所述有標注轉(zhuǎn)錄文本樣本輸入所述DSN模型中,通過所述DSN模型中源域的私有編碼器以及共享編碼器編碼獲得第一源域編碼,通過所述DSN模型中目標域的私有編碼器以及共享編碼器編碼獲得第一目標域編碼;
將所述第一源域編碼和所述第一目標域編碼輸入所述DSN模型的共享解碼器,獲得第一解碼數(shù)據(jù);
根據(jù)所述第一解碼數(shù)據(jù)和所述有標注轉(zhuǎn)錄文本樣本的標注,以及預(yù)設(shè)的第一損失函數(shù),獲得第一損失值;根據(jù)所述第一損失值對所述DSN模型進行針對轉(zhuǎn)錄文本分類的訓(xùn)練。
4.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述使用所述訓(xùn)練樣本,對所述DSN模型進行訓(xùn)練,包括:
將所述轉(zhuǎn)錄文本樣本輸入所述DSN模型中,通過所述DSN模型中源域的私有編碼器以及共享編碼器編碼獲得第二源域編碼,通過所述DSN模型中目標域的私有編碼器以及共享編碼器編碼獲得第二目標域編碼;
將所述第二源域編碼和所述第二目標域編碼輸入所述DSN模型的共享解碼器,獲得第二解碼數(shù)據(jù);
根據(jù)所述第二解碼數(shù)據(jù)和所述轉(zhuǎn)錄文本樣本,以及預(yù)設(shè)的第二損失函數(shù),獲得第二損失值;根據(jù)所述第二損失值對所述DSN模型進行針對轉(zhuǎn)錄文本重建的訓(xùn)練。
5.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述使用所述訓(xùn)練樣本,對所述DSN模型進行訓(xùn)練,包括:
將所述語音識別文本樣本輸入所述DSN模型中,通過所述DSN模型中源域的私有編碼器以及共享編碼器編碼獲得第三源域編碼,通過所述DSN模型中目標域的私有編碼器以及共享編碼器編碼獲得第三目標域編碼;
將所述第三源域編碼和所述第三目標域編碼輸入所述DSN模型的共享解碼器,獲得第三解碼數(shù)據(jù);
根據(jù)所述第三解碼數(shù)據(jù)和所述語音識別文本樣本,以及預(yù)設(shè)的第三損失函數(shù),獲得第三損失值;根據(jù)所述第三損失值對所述DSN模型進行針對語音識別文本重建的訓(xùn)練。
6.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述方法還包括:
在每次訓(xùn)練過程中,根據(jù)所述DSN模型中源域的私有編碼器的參數(shù)以及共享編碼器的參數(shù),對目標域的私有編碼器的參數(shù)以及共享編碼器的參數(shù)進行調(diào)整。
7.根據(jù)權(quán)利要求6所述的方法,其特征在于,所述根據(jù)所述DSN模型中源域的私有編碼器的參數(shù)以及共享編碼器的參數(shù),對目標域的私有編碼器的參數(shù)以及共享編碼器的參數(shù)進行調(diào)整,包括:
分別獲得所述源域的私有編碼器的第一參數(shù)和所述目標域的私有編碼器的第二參數(shù),并對所述第一參數(shù)和所述第二參數(shù)進行增大差異處理;
以及,分別獲得所述源域的共享編碼器的第三參數(shù)和所述目標域的共享編碼器的第四參數(shù),并對所述第三參數(shù)和所述第四參數(shù)進行減小差異處理。
8.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述方法還包括:
獲取語音數(shù)據(jù),并將所述語音數(shù)據(jù)轉(zhuǎn)換為所述待識別文本。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于北京世紀好未來教育科技有限公司,未經(jīng)北京世紀好未來教育科技有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202011230268.6/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。





