[發(fā)明專利]一種基于正交回歸和特征加權(quán)的有監(jiān)督特征選擇方法

在審

• 申請?zhí)枺?/td>: 201910831014.0
• 申請日: 2019-09-02
• 公開（公告）號(hào): CN110533114A
• 公開（公告）日: 2019-12-03
• 發(fā)明（設(shè)計(jì)）人: 鄔霞;徐雪遠(yuǎn);魏馥琳
• 申請（專利權(quán)）人: 北京師范大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62
• 代理公司: 11463 北京超凡宏宇專利代理事務(wù)所(特殊普通合伙)
• 代理人: 安衛(wèi)靜<國際申請>=<國際公布>=<進(jìn)入

1.一種基于正交回歸和特征加權(quán)的有監(jiān)督特征選擇方法，其特征在于，包括：

根據(jù)獲得的特征矩陣和與所述特征矩陣對(duì)應(yīng)的標(biāo)簽數(shù)據(jù)構(gòu)建第一算法模型，所述第一算法模型包括偏差向量；

對(duì)所述第一算法模型求所述偏差向量的偏導(dǎo)，獲得所述偏差向量；

將所述偏差向量代入所述第一算法模型計(jì)算，獲得第二算法模型，所述第二算法模型包括：正交回歸矩陣和權(quán)重對(duì)角矩陣；

交替固定所述正交回歸矩陣以及固定所述權(quán)重對(duì)角矩陣，對(duì)所述第二算法模型進(jìn)行迭代運(yùn)算，確定迭代運(yùn)算后的第二算法模型；

根據(jù)所述迭代運(yùn)算后的第二算法模型的權(quán)重對(duì)角矩陣確定冗余特征；

根據(jù)所述冗余特征從所述特征矩陣中選擇出特征數(shù)據(jù)。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述迭代運(yùn)算后的第二算法模型的權(quán)重對(duì)角矩陣確定冗余特征，包括：

將所述迭代運(yùn)算后的權(quán)重對(duì)角矩陣的主對(duì)角線上的元素確定為權(quán)重列向量；

將權(quán)重列向量中的權(quán)重小于閾值對(duì)應(yīng)的特征確定為冗余特征。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述交替固定所述正交回歸矩陣以及固定所述權(quán)重對(duì)角矩陣，對(duì)所述第二算法模型進(jìn)行迭代運(yùn)算，包括：

固定所述權(quán)重對(duì)角矩陣，使用廣義功率迭代法對(duì)所述第二算法模型計(jì)算所述正交回歸矩陣；

將所述正交回歸矩陣代入所述第二算法模型計(jì)算，獲得第三算法模型；

固定所述正交回歸矩陣，使用增廣拉格朗日乘子法對(duì)所述第三算法模型計(jì)算所述權(quán)重對(duì)角矩陣；

若所述第二算法模型的函數(shù)值不收斂，則執(zhí)行所述固定所述權(quán)重對(duì)角矩陣，使用廣義功率迭代法對(duì)所述第二算法模型計(jì)算所述正交回歸矩陣。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述固定所述權(quán)重對(duì)角矩陣，使用廣義功率迭代法對(duì)所述第二算法模型計(jì)算所述正交回歸矩陣，包括：

固定所述權(quán)重對(duì)角矩陣，將所述第二算法模型轉(zhuǎn)換為使用廣義功率迭代法對(duì)計(jì)算所述正交回歸矩陣；

其中，A為對(duì)稱矩陣，所述對(duì)稱矩陣滿足的條件為A∈R^D×D，B＝ΘXHY^T為第二替代參數(shù)，所述第二替代參數(shù)滿足的條件為B∈R^D×K；X＝[x₁,x₂,…,x_d,…,x_D]^T為所述特征矩陣，X滿足的條件為X∈R^D×N，D為所述特征矩陣中的特征的數(shù)量，D滿足的條件為1≤d≤D，x_d為所述特征矩陣中的第d個(gè)特征，Y＝[y₁,y₂,…,y_n,…,y_N]^T為所述標(biāo)簽數(shù)據(jù)，Y滿足的條件為Y∈R^K×N，N為所述標(biāo)簽數(shù)據(jù)中的標(biāo)簽的數(shù)量，N滿足的條件為1≤n≤N，y_n為所述標(biāo)簽數(shù)據(jù)中的第n個(gè)標(biāo)簽，T為對(duì)矩陣的轉(zhuǎn)置運(yùn)算，K為所述標(biāo)簽數(shù)據(jù)和所述特征矩陣的類別數(shù)，I_N為一個(gè)N×N的單位矩陣，1_N為全為1的列向量，即1_N＝[1,1,…,1]^T∈R^N×1，W∈R^D×K為所述正交回歸矩陣，滿足正交回歸約束W^TW＝I_K，Θ∈R^D×D為所述權(quán)重對(duì)角矩陣，θ為所述權(quán)重對(duì)角矩陣的主對(duì)角線上元素確定為的權(quán)重列向量，且θ^T1_D＝1，θ≥0代表特征的重要性，所述權(quán)重列向量中的各個(gè)元素表示每個(gè)特征的權(quán)重，每個(gè)權(quán)重值都大于等于0，且相加和為1；b∈R^K×1為所述偏差向量；表征求矩陣為M的Frobenius范數(shù)，即求矩陣為M的各項(xiàng)元素的絕對(duì)值平方的總和。