[發(fā)明專利]基于預訓練隨機傅里葉特征核LMS的超參數(shù)優(yōu)化方法

有效

• 申請?zhí)枺?/td>: 201811280151.1
• 申請日: 2018-10-30
• 公開（公告）號: CN109217844B
• 公開（公告）日: 2022-02-25
• 發(fā)明（設計）人: 陳寅生;羅中明;劉玉奇
• 申請（專利權）人: 哈爾濱理工大學
• 主分類號: H03H21/00
• 分類號: H03H21/00
• 代理公司: 哈爾濱市松花江專利商標事務所 23109
• 代理人: 劉冰

1.基于預訓練隨機傅里葉特征核LMS的超參數(shù)優(yōu)化方法，其特征在于，該方法包括以下步驟：

步驟一、給定一組訓練集x(i)代表第i組輸入信號，d(i)代表第i組期望信號，M代表訓練集樣本量；從訓練集中隨機抽取P個樣本，得到預訓練集

步驟二、確定核參數(shù)σ的取值，并預先設定m個維度參數(shù)的取值為[D₁,D₂,…,D_j,…,D_m]，其中：D₁，D₂，D_j和D_m分別代表第1個維度參數(shù)的取值，第2個維度參數(shù)的取值，第j個維度參數(shù)的取值和第m個維度參數(shù)的取值；

步驟三、對于步驟二的每一個維度均生成N′組獨立同分布的超參數(shù)w集合，超參數(shù)w集合滿足高斯分布N(0,σ²I)，其中：I是指與輸入信號x(i)同維度的單位向量；

步驟四、建立預訓練隨機傅里葉特征核LMS算法，利用步驟一確定的預訓練集對建立的算法進行預訓練，得到第j個維度下的任一組超參數(shù)w集合的穩(wěn)態(tài)均方誤差值；

所述步驟四的具體過程為：

將步驟一確定的預訓練集輸入預訓練隨機傅里葉特征核LMS算法，并輸入維度D_j、步長μ和第j個維度下的任一組超參數(shù)w集合；

初始化預訓練隨機傅里葉特征核LMS算法的權值向量Ω(1)，設置迭代循環(huán)的次數(shù)為P；

對于第1次迭代：通過特征映射Φ(·)的映射，計算得到顯示特征向量φ_w(x(1))為：

其中：超參數(shù)服從獨立同分布；

利用顯示特征向量φ_w(x(1))計算出濾波器輸出y(1)為：

y(1)＝Ω(1)^Tφ_w(x(1))

其中：Ω(1)^T為Ω(1)的轉置；

利用濾波器輸出y(1)計算出期望誤差e(1)為：

e(1)＝d(1)-y(1)

并得到更新后的權值向量Ω(2)為：

Ω(2)＝Ω(1)+μe(1)φ_w(x(1))

對于第2次迭代：計算得到顯示特征向量φ_w(x(2))為：

計算濾波器輸出y(2)為：

y(2)＝Ω(2)^Tφ_w(x(2))

計算期望誤差e(2)為：

e(2)＝d(2)-y(2)

并得到更新后的權值向量Ω(3)為：

Ω(3)＝Ω(2)+μe(2)φ_w(x(2))

同理，直至完成P次迭代；

取P次中最后50次迭代的期望誤差的平方的均值作為輸入的超參數(shù)w集合的穩(wěn)態(tài)均方誤差值；

步驟五、對于第j個維度下的其他N′-1組超參數(shù)w集合均重復步驟四的過程，得到第j個維度下的其他N′-1組超參數(shù)w集合的穩(wěn)態(tài)均方誤差值，通過比較得到第j個維度下的最小的穩(wěn)態(tài)均方誤差值；

步驟六、重復步驟四和步驟五的過程，分別得到其余m-1個維度下的最小的穩(wěn)態(tài)均方誤差，將不同維度下的最小的穩(wěn)態(tài)均方誤差進行比較，并將最小的穩(wěn)態(tài)均方誤差中的最小值對應的超參數(shù)w集合的值作為超參數(shù)的值。

2.根據(jù)權利要求1所述的基于預訓練隨機傅里葉特征核LMS的超參數(shù)優(yōu)化方法，其特征在于，所述步驟二中核參數(shù)σ的取值范圍為[0.01，2]。

3.根據(jù)權利要求1所述的基于預訓練隨機傅里葉特征核LMS的超參數(shù)優(yōu)化方法，其特征在于，所述步驟二中第j個維度參數(shù)D_j的取值范圍為[10，1000]，其中：j＝1,2,…,m。