[發(fā)明專利]手寫數(shù)據(jù)生成方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202111344936.2
• 申請(qǐng)日: 2021-11-15
• 公開（公告）號(hào): CN114332305A
• 公開（公告）日: 2022-04-12
• 發(fā)明（設(shè)計(jì)）人: 程謙;龍軍;高海潮
• 申請(qǐng)（專利權(quán)）人: 深圳技德智能科技研究院有限公司
• 主分類號(hào): G06T11/60
• 分類號(hào): G06T11/60;G06F16/583;G06F16/51;G06V30/164;G06V30/146
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發(fā)明公開了一種手寫數(shù)據(jù)生成方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)，獲取手寫單字?jǐn)?shù)據(jù)集；將數(shù)據(jù)集中的每類字符的圖片依次進(jìn)行編號(hào)；對(duì)數(shù)據(jù)集中的每類字符的圖片進(jìn)行圖像處理，再進(jìn)行層次聚類，濾除不符合要求的圖片；獲取中文語料庫(kù)，對(duì)語料庫(kù)先分割、切分，再對(duì)語料庫(kù)的語料進(jìn)行字符數(shù)量均衡處理；遍歷語料庫(kù)的每條語料，對(duì)每條語料的字符獲取單字?jǐn)?shù)據(jù)集中的字符圖片，并對(duì)字符圖片進(jìn)行處理，形成手寫數(shù)據(jù)行，最終形成以行為單位的手寫數(shù)據(jù)集。能夠快速生成百萬量級(jí)的手寫文本數(shù)據(jù)。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)操作系統(tǒng)領(lǐng)域，尤其涉及一種手寫數(shù)據(jù)生成方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著深度學(xué)習(xí)和OCR技術(shù)的不斷發(fā)展與進(jìn)步，手寫識(shí)別需求也在不斷增加，數(shù)據(jù)集的質(zhì)量和數(shù)量也直接影響到模型的識(shí)別性能。無監(jiān)督的深度學(xué)習(xí)對(duì)數(shù)據(jù)標(biāo)注要求較低，但無法適應(yīng)大多數(shù)工業(yè)場(chǎng)景；有監(jiān)督的深度學(xué)習(xí)可以滿足大多數(shù)場(chǎng)景需求，但強(qiáng)依賴于有標(biāo)注的數(shù)據(jù)集。因此，真實(shí)場(chǎng)景下的手寫標(biāo)注數(shù)據(jù)變得越來越重要。

傳統(tǒng)的手寫數(shù)據(jù)集采用“人工收集—人工處理—人工標(biāo)注”的方式進(jìn)行，最常見的例如：MNIST，CASIA-HWDB2.0。根據(jù)文字呈現(xiàn)形式，可以將手寫數(shù)據(jù)集分為character-level和page-level兩種： character-level表示每個(gè)樣本包含一個(gè)字符，標(biāo)注就是該字符的類別；page-level則包含一個(gè)完整的文本頁，標(biāo)注是每一行的位置以及文本信息。這類數(shù)據(jù)集一般的生成方式為：(1)召集志愿者書寫文本；(2)收集并處理文本圖片；(3)人工標(biāo)注每張文本圖片。數(shù)據(jù)集的特點(diǎn)是：標(biāo)注準(zhǔn)確，數(shù)據(jù)分布符合場(chǎng)景需求，但標(biāo)注效率低下、生成周期長(zhǎng)、數(shù)據(jù)量少，難以滿足深度學(xué)習(xí)對(duì)數(shù)據(jù)量的需求。

針對(duì)傳統(tǒng)人工標(biāo)注的缺點(diǎn)，一些學(xué)者和科研機(jī)構(gòu)嘗試?yán)蒙疃葘W(xué)習(xí)的方式來完成數(shù)據(jù)標(biāo)注，例如：目標(biāo)檢測(cè)領(lǐng)域常使用成熟的預(yù)訓(xùn)練模型對(duì)特定目標(biāo)做位置和類別標(biāo)注，OCR領(lǐng)域使用通用場(chǎng)景模型對(duì)特殊場(chǎng)景做標(biāo)注。利用深度學(xué)習(xí)的方式能較大程度提升標(biāo)注效率，它的一般實(shí)現(xiàn)方式可以分成兩步：(1)收集場(chǎng)景數(shù)據(jù)；(2)算法輔助人工標(biāo)注數(shù)據(jù)。所謂算法輔助人工指的是：在標(biāo)注時(shí)首先利用通用場(chǎng)景算法基于數(shù)據(jù)粗略標(biāo)注，然后通過人工手動(dòng)調(diào)整標(biāo)注，提升標(biāo)注精度。深度學(xué)習(xí)智能標(biāo)注方法的特點(diǎn)是：標(biāo)注準(zhǔn)確，但依賴人工校正導(dǎo)致效率較低，且嚴(yán)格依賴于通用預(yù)訓(xùn)練模型。

除了使用已有數(shù)據(jù)做標(biāo)注來產(chǎn)生數(shù)據(jù)集以外，還可以利用GAN (GenerativeAdversarial Networks，生成對(duì)抗網(wǎng)絡(luò))模型根據(jù)標(biāo)注逆向生成圖片，這種方式以深度學(xué)習(xí)模型作為基礎(chǔ)，模型輸入是文本類字符串，輸出是GAN算法書寫的文字圖像。該方式生成效率高，但是由于GAN模型的訓(xùn)練較難收斂，其生成的數(shù)據(jù)質(zhì)量也參差不齊，同真實(shí)人類手寫數(shù)據(jù)有較大差距，難以滿足真實(shí)場(chǎng)景需求。

發(fā)明內(nèi)容

為了解決手寫識(shí)別數(shù)據(jù)集生成效率低下、數(shù)據(jù)質(zhì)量難以滿足真實(shí)場(chǎng)景需求的問題，本發(fā)明提供了一種手寫數(shù)據(jù)生成方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)。

第一方面，本發(fā)明提供一種手寫數(shù)據(jù)生成方法，所述方法為：

獲取手寫單字?jǐn)?shù)據(jù)集；所述數(shù)據(jù)集為字符圖片的集合，每類字符對(duì)應(yīng)一個(gè)字符索引值，數(shù)據(jù)集的每類字符包含一定數(shù)量的字符圖片；每類字符與字符索引值形成字符索引表；

將數(shù)據(jù)集中的每類字符的圖片依次進(jìn)行編號(hào)；

對(duì)數(shù)據(jù)集中的每類字符的圖片進(jìn)行圖像處理，再進(jìn)行層次聚類，濾除不符合要求的圖片；

獲取中文語料庫(kù)，對(duì)語料庫(kù)先分割、切分，再對(duì)語料庫(kù)的語料進(jìn)行字符數(shù)量均衡處理；

遍歷語料庫(kù)的每條語料，對(duì)每條語料的字符獲取單字?jǐn)?shù)據(jù)集中的字符圖片，并對(duì)字符圖片進(jìn)行處理，形成手寫數(shù)據(jù)行，最終形成以行為單位的手寫數(shù)據(jù)集。

進(jìn)一步地，所述對(duì)每條語料的字符獲取單字?jǐn)?shù)據(jù)集中的字符圖片，并對(duì)字符圖片進(jìn)行處理，形成手寫數(shù)據(jù)行，包括：