[發(fā)明專利]一種基于特征擴(kuò)展的bert電網(wǎng)缺陷文本分類方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202010430653.9
• 申請(qǐng)日: 2020-05-20
• 公開（公告）號(hào): CN111694956A
• 公開（公告）日: 2020-09-22
• 發(fā)明（設(shè)計(jì)）人: 鄭澤忠;牟范;謝樂;楊宇霆;江邵斌;侯安鍇
• 申請(qǐng)（專利權(quán)）人: 電子科技大學(xué)
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06K9/62
• 代理公司: 電子科技大學(xué)專利中心 51203
• 代理人: 陳一鑫

本發(fā)明公開了一種基于特征擴(kuò)展的bert電網(wǎng)缺陷文本分類方法，屬于機(jī)器學(xué)習(xí)的數(shù)據(jù)處理領(lǐng)域，特別是錯(cuò)誤數(shù)據(jù)識(shí)別領(lǐng)域。本發(fā)明利用電網(wǎng)的歷史缺陷信息，采用k?means聚類方法對(duì)歷史缺陷信息做預(yù)處理。利用特征擴(kuò)展的方法對(duì)缺陷文本特征進(jìn)行降維和特征擴(kuò)展。采用bert的方法在基于特征擴(kuò)展的基礎(chǔ)上對(duì)進(jìn)行缺陷文本分類。改變了原有采用人工對(duì)缺陷數(shù)據(jù)進(jìn)行分類的方式，具有分類速度快，分類精確的效果。

技術(shù)領(lǐng)域

本發(fā)明屬于機(jī)器學(xué)習(xí)的數(shù)據(jù)處理領(lǐng)域，特別是錯(cuò)誤數(shù)據(jù)識(shí)別領(lǐng)域。

背景技術(shù)

隨著電網(wǎng)智能化與信息化的建設(shè),電網(wǎng)企業(yè)積累了大量的數(shù)據(jù),逐漸構(gòu)成了學(xué)術(shù)界和工業(yè)界共同關(guān)注的電力大數(shù)據(jù)。目前在電力領(lǐng)域中,主要側(cè)重于結(jié)構(gòu)化數(shù)據(jù)挖掘的研究,也有針對(duì)圖像識(shí)別的研究,但是,電力文本挖掘研究才剛剛起步。在大量的工人記錄的缺陷描述中存在很多有價(jià)值的東西，然而人工要對(duì)這些數(shù)據(jù)進(jìn)行整理需要專業(yè)人員，而且費(fèi)時(shí)費(fèi)力。目前有一部分關(guān)于電網(wǎng)文本的研究，但在缺陷文本分類中方面還沒有相關(guān)研究成果。

發(fā)明內(nèi)容

針對(duì)背景技術(shù)中存在的不足，本發(fā)明解決了現(xiàn)有技術(shù)中對(duì)電力文本信息處理速度慢，缺陷數(shù)據(jù)不能識(shí)別的問題。

本發(fā)明技術(shù)方案為一種基于特征擴(kuò)展的bert電網(wǎng)缺陷文本分類方法，該方法包括：

步驟1：數(shù)據(jù)預(yù)處理；

步驟1.1：讀取原始csv文件中的數(shù)據(jù)，并統(tǒng)計(jì)原始csv文件中的數(shù)據(jù)中缺陷類型的數(shù)目和對(duì)各缺陷類型的描述文字；

步驟1.2：將原始csv文件中所有缺陷數(shù)據(jù)按照缺陷類型進(jìn)行分類；

步驟1.3：根據(jù)各缺陷類型的描述文字對(duì)缺陷類型進(jìn)行k-means聚類，最終聚為K類；

步驟2：特征提??；

步驟2.1：提取聚類后的每一類缺陷內(nèi)所有數(shù)據(jù)的特征，該數(shù)據(jù)包括缺陷的描述文字和數(shù)據(jù)本身的文字；

步驟2.2：采用如下公式計(jì)算提取出的每個(gè)特征的離散度DI_ic(f,C_i)；

其中：n表示C_i類中的數(shù)據(jù)總數(shù)：tf_ij(f)表示特征f在C_i類中第j個(gè)數(shù)據(jù)中出現(xiàn)的次數(shù)，表示特征f在C_i類的所有數(shù)據(jù)中出現(xiàn)次數(shù)的平均值，其計(jì)算公式如下；

步驟2.3：根據(jù)離散度DI_ic(f,C_i)的大小，對(duì)每個(gè)特征進(jìn)行排序，設(shè)定離散度閾值，將離散度大于閾值的特征合并；

步驟3：對(duì)缺陷數(shù)據(jù)中所有短文本數(shù)據(jù)進(jìn)行特征擴(kuò)展；

從步驟2得到的所有特征中選出與短文本數(shù)據(jù)的特征最相似的特征，根據(jù)該最相似的特征對(duì)短文本數(shù)據(jù)進(jìn)行擴(kuò)展；

步驟4：采用bert模型對(duì)擴(kuò)展后的所有缺陷數(shù)據(jù)進(jìn)行重新分類，得到分類結(jié)果。

進(jìn)一步的，所述步驟3的具體方法為：

步驟3.1：如果短文本數(shù)據(jù)的某一特征直接能在步驟2最終得到特征中找到，那么則保留該特征；

步驟3.2：如果某一特征在步驟2最終得到的特征中未找到，則采用如下公式計(jì)算短文本數(shù)據(jù)中的該特征與步驟2最終得到的所有特征的相似度R(f_i,f_j)；