[發(fā)明專利]一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011171335.1
• 申請(qǐng)日: 2020-10-28
• 公開（公告）號(hào): CN112464984A
• 公開（公告）日: 2021-03-09
• 發(fā)明（設(shè)計(jì)）人: 何潔月;蔡嘉躍;吳宇
• 申請(qǐng)（專利權(quán)）人: 東南大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N7/00;G06N20/00
• 代理公司: 南京眾聯(lián)專利代理有限公司 32206
• 代理人: 張?zhí)煺?/td>

本發(fā)明公開一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法，依次包括以下步驟：步驟1：給定分類問(wèn)題的數(shù)據(jù)集D_TR，包含一個(gè)數(shù)值型特征集合S，設(shè)置參數(shù)最大迭代次數(shù)maxIterations,嵌入尺寸embeddingSize的取值；步驟2：將數(shù)據(jù)集和參數(shù)傳入該自動(dòng)特征構(gòu)造方法，運(yùn)行得到分類結(jié)果。該方法包含基于自注意力機(jī)制的特征生成器和基于強(qiáng)化學(xué)習(xí)的特征選擇器，通過(guò)迭代不斷探索與利用所生成的特征，在有限步驟內(nèi)以全局最優(yōu)的特征生成和選擇方案指導(dǎo)測(cè)試集的特征生成，從而自動(dòng)得到最優(yōu)的分類結(jié)果。

技術(shù)領(lǐng)域

本發(fā)明涉及一種自動(dòng)特征構(gòu)造方法，具體涉及一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法，屬于自動(dòng)機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域。

背景技術(shù)

近年來(lái)自動(dòng)機(jī)器學(xué)習(xí)本身已成為機(jī)器學(xué)習(xí)的新子領(lǐng)域，機(jī)器學(xué)習(xí)的每個(gè)步驟都可以向著自動(dòng)化方向發(fā)展，其中模型選擇和超參數(shù)優(yōu)化方面的研究專家們已經(jīng)提出了比較成熟可用的框架，一般的分類或者回歸的機(jī)器學(xué)習(xí)模型已經(jīng)實(shí)現(xiàn)了低門檻或者零門檻甚至免費(fèi)建模的程度。如今，特征工程是工業(yè)界應(yīng)用AI的難關(guān)之一，特征的質(zhì)量是后續(xù)學(xué)習(xí)模型性能的最重要的基礎(chǔ)。

由于原始特征很少會(huì)產(chǎn)生令人滿意的結(jié)果，因此經(jīng)常需要執(zhí)行手動(dòng)特征生成以更好地表示數(shù)據(jù)并提高學(xué)習(xí)性能。但是，這通常是繁瑣且難以泛化的工作，從而激發(fā)了自動(dòng)特征生成相關(guān)的研究工作。大多數(shù)自動(dòng)特征生成的早期工作通過(guò)嚴(yán)格預(yù)定義的方法經(jīng)過(guò)組合變換來(lái)生成特征，使得方法可擴(kuò)展性差；后來(lái)出現(xiàn)基于深度學(xué)習(xí)的方法以隱式方式學(xué)習(xí)高階的特征交叉，但模型又缺乏可解釋性。

針對(duì)上述存在的問(wèn)題，本發(fā)明提出了一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法TideKit。該方法可以自動(dòng)學(xué)習(xí)輸入特征的高階相互作用，同時(shí)可廣泛應(yīng)用于特征為數(shù)值型的分類問(wèn)題，并且具有良好的模型可解釋性。

發(fā)明內(nèi)容

技術(shù)問(wèn)題：

本發(fā)明的目的在于解決現(xiàn)有自動(dòng)特征生成技術(shù)中存在的不足，提供一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法。

技術(shù)方案：

本發(fā)明所述的一種基于注意力機(jī)制和強(qiáng)化學(xué)習(xí)的自動(dòng)特征構(gòu)造方法，依次包括以下步驟：

(1)給定分類問(wèn)題的數(shù)據(jù)集D_TR，包含一個(gè)數(shù)值型特征集合S，設(shè)置參數(shù)最大迭代次數(shù)maxIterations,嵌入尺寸embeddingSize的取值；

(2)將數(shù)據(jù)集和參數(shù)傳入TideKit模型，運(yùn)行模型得到分類結(jié)果，該算法的具體內(nèi)容為：

(21)基于自注意力機(jī)制的自動(dòng)特征生成方法，具體實(shí)現(xiàn)于模型的交互層中。對(duì)于每個(gè)交互層，高階特征通過(guò)自注意力機(jī)制進(jìn)行組合，使用自注意力得分評(píng)估不同種類的組合；通過(guò)堆疊多個(gè)交互層，對(duì)組合的原始特征的不同順序進(jìn)行建模。

(22)基于強(qiáng)化學(xué)習(xí)的自動(dòng)特征選擇方法，將特征選擇過(guò)程轉(zhuǎn)換為馬爾可夫決策過(guò)程，基于策略梯度并行地評(píng)估出每個(gè)特征的候選概率，通過(guò)迭代不斷探索與利用所生成的特征，在有限步驟內(nèi)以全局最優(yōu)的特征生成和選擇方案指導(dǎo)測(cè)試集的特征生成。

進(jìn)一步的，所述步驟(21)的詳細(xì)內(nèi)容為：在模型的特征交互層中，以自注意力得分評(píng)估不同種類的特征組合，將其作為特征交互的權(quán)重，提供了特征生成階段的可解釋性；以堆疊交互層的形式完成對(duì)不同組合順序的特征交互，提供了特征生成階段的可擴(kuò)展性，且該過(guò)程是完全自動(dòng)化的。

進(jìn)一步的，所述步驟(22)的詳細(xì)內(nèi)容為：將特征選擇過(guò)程轉(zhuǎn)換為馬爾可夫決策過(guò)程，并且對(duì)此過(guò)程建立動(dòng)態(tài)的自動(dòng)調(diào)整機(jī)制——在元學(xué)習(xí)階段根據(jù)數(shù)據(jù)集的特征來(lái)預(yù)熱系統(tǒng)，以及在特征選擇的迭代過(guò)程中根據(jù)期望獎(jiǎng)勵(lì)差的差異化獎(jiǎng)勵(lì)表征，以此優(yōu)化迭代效率。

有益效果：