[發(fā)明專利]一種深度學(xué)習(xí)模型個(gè)體預(yù)測(cè)解釋方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202010148007.3
• 申請(qǐng)日: 2020-03-05
• 公開（公告）號(hào): CN111353603A
• 公開（公告）日: 2020-06-30
• 發(fā)明（設(shè)計(jì)）人: 孫兆悅
• 申請(qǐng)（專利權(quán)）人: 深圳索信達(dá)數(shù)據(jù)技術(shù)有限公司
• 主分類號(hào): G06N3/08
• 分類號(hào): G06N3/08;G06N7/00;G06N20/10
• 代理公司: 深圳市千納專利代理有限公司 44218
• 代理人: 黃良寶

1.一種深度學(xué)習(xí)模型個(gè)體預(yù)測(cè)解釋方法，其特征在于，包括以下步驟：

S1，對(duì)個(gè)體樣本數(shù)據(jù)進(jìn)行清洗和預(yù)處理；對(duì)數(shù)據(jù)進(jìn)行一致性檢查，刪除錯(cuò)誤數(shù)據(jù)或無效數(shù)據(jù)，并進(jìn)行缺失值填充；將分類變量轉(zhuǎn)化為數(shù)值型變量；

S2，將個(gè)體樣本數(shù)據(jù)放入深度學(xué)習(xí)模型中建模，得到預(yù)測(cè)模型y₁＝f(x)；

S3，選取一個(gè)待解釋個(gè)體樣本，獲取該樣本取值x*，并計(jì)算出預(yù)測(cè)模型對(duì)該樣本的預(yù)測(cè)值

S4，將x^*作為解釋變量、作為響應(yīng)變量，運(yùn)用本方法輸出一個(gè)擬合的可解釋模型y₂＝g(x)；

S5，通過分析可解釋模型y₂＝g(x)的參數(shù)，獲知該目標(biāo)樣本中每個(gè)特征對(duì)結(jié)果的貢獻(xiàn)程度：若參數(shù)為正，則表示該特征對(duì)個(gè)體預(yù)測(cè)結(jié)果輸出值有增益作用；若參數(shù)為負(fù)，則表示該特征對(duì)個(gè)體預(yù)測(cè)結(jié)果輸出值有消減作用；參數(shù)絕對(duì)值越大，該特征對(duì)個(gè)體預(yù)測(cè)結(jié)果的影響越大；由此，作為深度學(xué)習(xí)模型對(duì)個(gè)體預(yù)測(cè)的解釋方法。

2.根據(jù)權(quán)利要求1所述的一種深度學(xué)習(xí)模型個(gè)體預(yù)測(cè)解釋方法，其特征在于，所述步驟S4的方法包括以下步驟：

1)在目標(biāo)樣本x^*的一個(gè)鄰域(-3σ，3σ)(其中σ為總體方差)產(chǎn)生一些隨機(jī)樣本；對(duì)于連續(xù)性變量，在目標(biāo)樣本x^*的鄰域內(nèi)使用標(biāo)準(zhǔn)正態(tài)分布產(chǎn)生-系列新的指定個(gè)數(shù)的隨機(jī)樣本Z＝{z₁，z₂，z₃，...，z_n}，其中n為樣本量；對(duì)于離散型變量，在目標(biāo)樣本x^*的鄰域內(nèi)根據(jù)其本身特征分布進(jìn)行隨機(jī)取樣；

2)給新生成的樣本打標(biāo)簽：將新生成樣本點(diǎn)Z，放入已訓(xùn)練出的預(yù)測(cè)模型f(x)中進(jìn)行預(yù)測(cè)，得到f(Z)＝{f(z₁)，f(z₂)，f(z₃)，...，f(z_n)}；

3)計(jì)算新生樣本點(diǎn)與目標(biāo)樣本之間距離：通過計(jì)算π_x(z)＝exp(-D(x，z)²/σ²)，得到新生成的樣本與目標(biāo)樣本之間的距離，其中D(x，z)表示樣本點(diǎn)之間的歐氏距離，σ²表示距離的方差；

4)篩選變量，并擬合局部線性回歸函數(shù)：使用正則化路徑對(duì)擁有p個(gè)特征的樣本Z＝[Z₍₁₎，Z₍₂₎，Z₍₃₎，...，Z_(p)]進(jìn)行變量篩選，選出其中的k個(gè)特征，即Z′＝[Z₍₁₎，Z₍₂₎，..，Z_(k)]，k≤p；此時(shí)，以f(Z)為響應(yīng)變量，Z′為解釋變量擬合線性回歸函數(shù)g(Z′)＝ω₀+ω₁Z₍₁₎+ω₂Z₍₂₎+，..+ω_KZ_(k)，并對(duì)線性回歸函數(shù)參數(shù)進(jìn)行分析；

對(duì)于線性回歸參數(shù)ω＝[ω₀，ω₁，ω₂，....，ω_K]的估計(jì)，包括以下步驟：

(1)構(gòu)建損失函數(shù)：L(f，g，π_x)＝∑_{z，z′∈Z}π_x(z)(f(z)-g(z′))²，該函數(shù)用來衡量在一個(gè)小的鄰域π_x中線性回歸函數(shù)g(z′)與f(z)的臨近可信程度；

(2)通過求解找到使損失函數(shù)達(dá)到最小的參數(shù)該參數(shù)即為所擬合線性回歸函數(shù)的參數(shù)。

3.根據(jù)權(quán)利要求1所述的-種深度學(xué)習(xí)模型個(gè)體預(yù)測(cè)解釋方法，其特征在于，所述步驟S2中所指的深度學(xué)習(xí)模型包括有：神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林、Xgboost和支持向量機(jī)模型；預(yù)測(cè)模型包括有：Xgboost、支持向量機(jī)和隨機(jī)森林模型。