[發(fā)明專利]訓(xùn)練樣本的數(shù)據(jù)清洗方法、裝置及一種分類器

有效

• 申請(qǐng)?zhí)枺?/td>: 202110456762.2
• 申請(qǐng)日: 2021-04-27
• 公開（公告）號(hào): CN112990130B
• 公開（公告）日: 2021-07-23
• 發(fā)明（設(shè)計(jì)）人: 楊帆;劉利卉;朱瑩;馮帥;胡建國(guó)
• 申請(qǐng)（專利權(quán)）人: 南京甄視智能科技有限公司
• 主分類號(hào): G06K9/00
• 分類號(hào): G06K9/00;G06K9/46;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京德崇智捷知識(shí)產(chǎn)權(quán)代理有限公司 11467
• 代理人: 楊楠

本發(fā)明公開了一種訓(xùn)練樣本的數(shù)據(jù)清洗方法。針對(duì)訓(xùn)練數(shù)據(jù)中少量存在的標(biāo)注類標(biāo)和真實(shí)類標(biāo)不一致的情況，本發(fā)明先通過調(diào)整顯著性特征的權(quán)重分布使得標(biāo)注類標(biāo)與真實(shí)類標(biāo)一致的數(shù)據(jù)特征更具區(qū)別性，抑制標(biāo)注類標(biāo)與真實(shí)類標(biāo)不一致性數(shù)據(jù)特征差異性，其次根據(jù)訓(xùn)練過程中的驗(yàn)證集結(jié)果，結(jié)合前面顯著性特征相關(guān)分析結(jié)果，對(duì)訓(xùn)練樣本中的部分?jǐn)?shù)據(jù)進(jìn)行類標(biāo)的修正。本發(fā)明還公開了一種訓(xùn)練樣本的數(shù)據(jù)清洗裝置以及一種分類器。本發(fā)明技術(shù)方案既可以單獨(dú)作為數(shù)據(jù)預(yù)處理方法，對(duì)訓(xùn)練樣本進(jìn)行數(shù)據(jù)清洗；也可以與分類器訓(xùn)練過程相結(jié)合，在分類器訓(xùn)練中自適應(yīng)修正錯(cuò)誤標(biāo)注的訓(xùn)練樣本，從而顯著提升分類算法的精度。

技術(shù)領(lǐng)域

本發(fā)明屬于機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，具體涉及一種訓(xùn)練樣本的數(shù)據(jù)清洗方法、裝置及一種分類器。

背景技術(shù)

機(jī)器學(xué)習(xí)通常可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、半監(jiān)督學(xué)習(xí)，而其中除無監(jiān)督學(xué)習(xí)之外的其它幾種方式都需要預(yù)先標(biāo)注好樣本所屬類型標(biāo)簽（下文簡(jiǎn)稱標(biāo)注類標(biāo)）的訓(xùn)練樣本來進(jìn)行學(xué)習(xí)。訓(xùn)練各種神經(jīng)網(wǎng)絡(luò)一般需要海量數(shù)據(jù)，海量數(shù)據(jù)中往往存在少量數(shù)據(jù)存在噪聲，這部分噪聲可能是數(shù)據(jù)與多個(gè)類別相近，或者存在干擾信息，疊加標(biāo)注人員在標(biāo)注時(shí)受主觀性和工作強(qiáng)度影響，會(huì)存在少量數(shù)據(jù)的標(biāo)注類標(biāo)與真實(shí)類標(biāo)不一致的情況。普通的分類算法訓(xùn)練時(shí)在面對(duì)這標(biāo)注類標(biāo)與真實(shí)類標(biāo)不一致的數(shù)據(jù)時(shí)，是不進(jìn)行處理的，從而導(dǎo)致訓(xùn)練出來的模型在預(yù)測(cè)時(shí)存在兩種類別或者多種類別間置信值接近從而導(dǎo)致誤分。理想情況是對(duì)標(biāo)注人員進(jìn)行統(tǒng)一培訓(xùn)，對(duì)二義性的圖像重新標(biāo)注，對(duì)不清楚的圖像進(jìn)行忽略或者剔除。但是這些處理都是增加額外的人力成本。

針對(duì)這一問題，研究人員也提出了一些對(duì)數(shù)據(jù)標(biāo)注進(jìn)行修正的技術(shù)方案，但普遍存在明顯缺陷。例如，一篇中國(guó)發(fā)明專利申請(qǐng)《數(shù)據(jù)標(biāo)注修正方法、裝置、計(jì)算機(jī)可讀介質(zhì)及電子設(shè)備》（申請(qǐng)公開號(hào)為CN 110399933 A，公開日為2019.11.01）公開了一種數(shù)據(jù)標(biāo)注的修正方法，對(duì)于一訓(xùn)練集，采用不同表達(dá)能力的學(xué)習(xí)模型同時(shí)計(jì)算該訓(xùn)練集內(nèi)每一樣本數(shù)據(jù)的分類分?jǐn)?shù)，并且選出在每一所述學(xué)習(xí)模型下的分類分?jǐn)?shù)均在該學(xué)習(xí)模型對(duì)應(yīng)的閾值范圍內(nèi)的樣本數(shù)據(jù)作為需要修正的樣本數(shù)據(jù)，從而實(shí)現(xiàn)自動(dòng)對(duì)樣本數(shù)據(jù)進(jìn)行核查；根據(jù)多數(shù)投票原則，對(duì)采用所述不同表達(dá)能力的學(xué)習(xí)模型計(jì)算得到的分類標(biāo)注占比最高的作為該樣本數(shù)據(jù)的標(biāo)注，從而實(shí)現(xiàn)了自動(dòng)且較準(zhǔn)確地對(duì)樣本數(shù)據(jù)的標(biāo)注進(jìn)行修正。該技術(shù)方案無需對(duì)訓(xùn)練集中所有樣本數(shù)據(jù)都進(jìn)行標(biāo)注修正，能夠自動(dòng)對(duì)樣本數(shù)據(jù)進(jìn)行核查，尋找出最容易出現(xiàn)標(biāo)注出錯(cuò)問題的樣本數(shù)據(jù)集，自動(dòng)且較準(zhǔn)確地對(duì)該樣本數(shù)據(jù)集內(nèi)的標(biāo)注進(jìn)行修正。然而，該技術(shù)方案需要使用多種不同表達(dá)能力的學(xué)習(xí)模型，實(shí)現(xiàn)過程復(fù)雜，實(shí)現(xiàn)成本高昂，且對(duì)于錯(cuò)誤標(biāo)注數(shù)據(jù)的識(shí)別效果也不盡人意。又如，中國(guó)發(fā)明專利申請(qǐng)《一種基于半監(jiān)督學(xué)習(xí)進(jìn)行圖像標(biāo)注方法》（公開號(hào)為CN111738343A，公開日為2020.10.02）針對(duì)不同類別的樣本設(shè)計(jì)不同的分類器，利用已經(jīng)標(biāo)注好的部分樣本來訓(xùn)練分類器，并且對(duì)不同分類器的結(jié)果進(jìn)行投票，選擇出準(zhǔn)確率最高的類別，從而對(duì)未知樣本進(jìn)行標(biāo)注。然而該方案為了降低錯(cuò)誤分類帶來的影響，將分類器得到的每一個(gè)類別中的樣本與標(biāo)注的相應(yīng)類別中的樣本進(jìn)行隨機(jī)線性混合操作，使得錯(cuò)誤分類的結(jié)果中也含有對(duì)應(yīng)類別的特征。再如，論文《ImageCaptioning with Very Scarce Supervised Data: Adversarial Semi-SupervisedLearning Approach，MixMatch: A Holistic Approach to Semi-Supervised Learning》利用半監(jiān)督學(xué)習(xí)實(shí)現(xiàn)通過較少的帶有標(biāo)簽數(shù)據(jù)訓(xùn)出魯棒性較強(qiáng)的模型并給大規(guī)模無標(biāo)注的數(shù)據(jù)進(jìn)行類標(biāo)標(biāo)注，但是在通過較少的帶標(biāo)簽的數(shù)據(jù)訓(xùn)練模型的過程中并沒有提出降低因?yàn)殄e(cuò)誤類標(biāo)數(shù)據(jù)影響模型精度的問題。

發(fā)明內(nèi)容

本發(fā)明索要解決的技術(shù)問題在于克服現(xiàn)有技術(shù)不足，提供一種訓(xùn)練樣本的數(shù)據(jù)清洗方法，可以較低的成本對(duì)錯(cuò)誤標(biāo)注訓(xùn)練樣本進(jìn)行高效且準(zhǔn)確地修正。

本發(fā)明具體采用以下技術(shù)方案解決上述技術(shù)問題：

一種訓(xùn)練樣本的數(shù)據(jù)清洗方法，包括以下步驟：

步驟1、將帶有標(biāo)注類標(biāo)的訓(xùn)練樣本送入包括網(wǎng)絡(luò)主體和全連接層的神經(jīng)網(wǎng)絡(luò)進(jìn)行前向傳播；