[發(fā)明專利]數(shù)據(jù)集的質(zhì)量評(píng)估方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202010947219.8
• 申請(qǐng)日: 2020-09-10
• 公開(kāi)（公告）號(hào): CN112101447A
• 公開(kāi)（公告）日: 2020-12-18
• 發(fā)明（設(shè)計(jì)）人: 許順楠;甘露;陳亮輝;方軍
• 申請(qǐng)（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N20/00
• 代理公司: 北京英賽嘉華知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11204
• 代理人: 王達(dá)佐;馬曉亞

本申請(qǐng)實(shí)施例公開(kāi)了數(shù)據(jù)集的質(zhì)量評(píng)估方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)，涉及大數(shù)據(jù)技術(shù)領(lǐng)域。該數(shù)據(jù)集的質(zhì)量評(píng)估方法的一具體實(shí)施方式包括：對(duì)數(shù)據(jù)集進(jìn)行第一診斷，生成第一診斷報(bào)告，其中，第一診斷包括至少一條評(píng)估規(guī)則，評(píng)估規(guī)則表征數(shù)據(jù)集中樣本的質(zhì)量維度；對(duì)數(shù)據(jù)集進(jìn)行第二診斷，生成第二診斷報(bào)告，其中，第二診斷包括至少一條評(píng)估規(guī)則，評(píng)估規(guī)則表征數(shù)據(jù)集中樣本特征的質(zhì)量維度；基于第一診斷報(bào)告和/或第二診斷報(bào)告，評(píng)估所述數(shù)據(jù)集的質(zhì)量，從而實(shí)現(xiàn)對(duì)數(shù)據(jù)集進(jìn)行系統(tǒng)的、全面的、多維度的質(zhì)量診斷，及時(shí)發(fā)現(xiàn)數(shù)據(jù)中的異常樣本和樣本中的異常特征，提高數(shù)據(jù)集質(zhì)量。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體涉及大數(shù)據(jù)技術(shù)領(lǐng)域，尤其涉及數(shù)據(jù)集的質(zhì)量評(píng)估方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)。

背景技術(shù)

在機(jī)器學(xué)習(xí)任務(wù)中，數(shù)據(jù)集的質(zhì)量?jī)?yōu)劣對(duì)模型訓(xùn)練的結(jié)果影響很大，在一定程度上，數(shù)據(jù)質(zhì)量決定模型的上限。目前對(duì)于數(shù)據(jù)集質(zhì)量的評(píng)估，往往通過(guò)使用者根據(jù)自己對(duì)數(shù)據(jù)的理解，開(kāi)發(fā)腳本對(duì)數(shù)據(jù)集進(jìn)行簡(jiǎn)單的清洗，甚至使用者缺乏對(duì)數(shù)據(jù)質(zhì)量的了解，就直接使用數(shù)據(jù)集進(jìn)行模型訓(xùn)練，導(dǎo)致模型效果差。

發(fā)明內(nèi)容

為了解決上述背景技術(shù)部分提到的一個(gè)或多個(gè)技術(shù)問(wèn)題，本申請(qǐng)實(shí)施例提供了數(shù)據(jù)集的質(zhì)量評(píng)估方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)。

第一方面，本申請(qǐng)實(shí)施例提供了數(shù)據(jù)集的質(zhì)量評(píng)估方法，包括：對(duì)數(shù)據(jù)集進(jìn)行第一診斷，生成第一診斷報(bào)告，其中，所述第一診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本的質(zhì)量維度；對(duì)數(shù)據(jù)集進(jìn)行第二診斷，生成第二診斷報(bào)告，其中，所述第二診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本特征的質(zhì)量維度；基于所述第一診斷報(bào)告和/或所述第二診斷報(bào)告，評(píng)估所述數(shù)據(jù)集的質(zhì)量。

第二方面，本申請(qǐng)實(shí)施例提供了數(shù)據(jù)集的質(zhì)量評(píng)估裝置，包括：第一診斷模塊，被配置為對(duì)數(shù)據(jù)集進(jìn)行第一診斷，生成第一診斷報(bào)告，其中，所述第一診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本的質(zhì)量維度；第二診斷模塊，被配置為對(duì)數(shù)據(jù)集進(jìn)行第二診斷，生成第二診斷報(bào)告，其中，所述第二診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本特征的質(zhì)量維度；評(píng)估模塊，被配置為基于所述第一診斷報(bào)告和/或所述第二診斷報(bào)告，評(píng)估所述數(shù)據(jù)集的質(zhì)量。

第三方面，本申請(qǐng)實(shí)施例提出了一種電子設(shè)備，包括：至少一個(gè)處理器；以及與至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，存儲(chǔ)器存儲(chǔ)有可被至少一個(gè)處理器執(zhí)行的指令，指令被至少一個(gè)處理器執(zhí)行，以使至少一個(gè)處理器能夠執(zhí)行如第一方面中任一實(shí)現(xiàn)方式描述的方法。

第四方面，本申請(qǐng)實(shí)施例提出了一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，計(jì)算機(jī)指令用于使計(jì)算機(jī)執(zhí)行如第一方面中任一實(shí)現(xiàn)方式描述的方法。

本申請(qǐng)實(shí)施例提供的數(shù)據(jù)集的質(zhì)量評(píng)估方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)，首先對(duì)數(shù)據(jù)集進(jìn)行第一診斷，生成第一診斷報(bào)告，其中，所述第一診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本的質(zhì)量維度；之后對(duì)數(shù)據(jù)集進(jìn)行第二診斷，生成第二診斷報(bào)告，其中，所述第二診斷包括至少一條評(píng)估規(guī)則，所述評(píng)估規(guī)則表征數(shù)據(jù)集中樣本特征的質(zhì)量維度；最后基于所述第一診斷報(bào)告和/或所述第二診斷報(bào)告，評(píng)估所述數(shù)據(jù)集的質(zhì)量，從而實(shí)現(xiàn)對(duì)數(shù)據(jù)集進(jìn)行系統(tǒng)的、全面的、多維度的質(zhì)量診斷，及時(shí)發(fā)現(xiàn)數(shù)據(jù)中的異常樣本和樣本中的異常特征，提高數(shù)據(jù)集質(zhì)量。

應(yīng)當(dāng)理解，本部分所描述的內(nèi)容并非旨在標(biāo)識(shí)本公開(kāi)的實(shí)施例的關(guān)鍵或重要特征，也不用于限制本公開(kāi)的范圍。本公開(kāi)的其它特征將通過(guò)以下的說(shuō)明書(shū)而變得容易理解。

附圖說(shuō)明

通過(guò)閱讀參照以下附圖所作的對(duì)非限制性實(shí)施例所作的詳細(xì)描述，本申請(qǐng)的其它特征、目的和優(yōu)點(diǎn)將會(huì)變得更明顯。附圖用于更好地理解本方案，不構(gòu)成對(duì)本申請(qǐng)的限定。其中：

圖1是本申請(qǐng)可以應(yīng)用于其中的示例性系統(tǒng)架構(gòu)圖；

圖2是根據(jù)本申請(qǐng)的數(shù)據(jù)集的質(zhì)量評(píng)估方法的一個(gè)實(shí)施例的流程示意圖；