[發(fā)明專利]基于稀疏自編碼器的m序列識(shí)別方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201810603530.3
• 申請(qǐng)日: 2018-06-12
• 公開（公告）號(hào): CN109033952B
• 公開（公告）日: 2022-05-27
• 發(fā)明（設(shè)計(jì)）人: 強(qiáng)芳芳;趙知?jiǎng)?/a>;楊安鋒;陳穎;沈雷;姜顯揚(yáng)
• 申請(qǐng)（專利權(quán)）人: 杭州電子科技大學(xué)
• 主分類號(hào): G06K9/00
• 分類號(hào): G06K9/00
• 代理公司: 杭州君度專利代理事務(wù)所(特殊普通合伙) 33240
• 代理人: 朱月芬

1.基于稀疏自編碼器的m序列識(shí)別方法，其特征在于該方法包括以下步驟：

步驟1、產(chǎn)生N不同周期T、不同信噪比下的完整m序列；

步驟2、估計(jì)每個(gè)序列的三階相關(guān)函數(shù)，得到包含m序列特征信息的三階相關(guān)矩陣；

步驟3、提出取模映射方法降低三階相關(guān)矩陣的維度，得到新的特征信息矩陣并向量化，得N個(gè)向量作為訓(xùn)練集樣本；

步驟4、建立稀疏自編碼器網(wǎng)絡(luò)用于樣本特征的提取，引入softmax回歸模型，將自編碼器網(wǎng)絡(luò)提取到的特征作為輸入，用于分類識(shí)別；

步驟5、利用代價(jià)函數(shù)最小化對(duì)稀疏自編碼網(wǎng)絡(luò)和softmax分類器逐層訓(xùn)練，然后整體微調(diào)優(yōu)化模型；具體為首先利用梯度下降法和L-BFGS算法分別最小化稀疏自編碼器和softmax分類器的代價(jià)函數(shù)，然后通過BP算法整體微調(diào)優(yōu)化模型；

步驟6、參照步驟1-步驟3，將待識(shí)別的m序列構(gòu)建成SAE網(wǎng)絡(luò)分類模型的測(cè)試集樣本，輸入訓(xùn)練好的模型，完成識(shí)別；

步驟2具體如下：

2-1.對(duì)于周期為T的m序列，當(dāng)采集到的數(shù)據(jù)包含一個(gè)完整m序列周期時(shí)，截取一個(gè)長(zhǎng)度L＝T的序列，三階相關(guān)函數(shù)可按式(1)估計(jì)：

其中，1≤p,q≤L；

2-2.當(dāng)采集的數(shù)據(jù)不足一個(gè)m序列周期，即L＜T時(shí)，三階相關(guān)函數(shù)按式(2)估計(jì)：

2-3.對(duì)于完整周期m序列或者m序列片段，在周期內(nèi)均保持了m序列TCF原有的特性；因此可以用此區(qū)域內(nèi)的TCF特性識(shí)別m序列；

2-4.構(gòu)造網(wǎng)絡(luò)訓(xùn)練集樣本時(shí)，以完整周期m序列L＝T為TCF的計(jì)算范圍，即根據(jù)式(1)計(jì)算TCF矩陣Θ：

m序列的特征信息均包含在在這個(gè)三階相關(guān)矩陣中；

步驟3中，為降低網(wǎng)絡(luò)的訓(xùn)練復(fù)雜度，提出取模映射方法，將維度較大的三階相關(guān)矩陣映射到一個(gè)維度較小的矩陣中，m序列的特征仍包含在新的矩陣中，從而降低特征信息向量即網(wǎng)絡(luò)輸入樣本的維度，具體如下：

3-1.假定判定C(p,q)是否為峰值的門限為γ，當(dāng)C(p,q)＞γ時(shí)，判定為峰值；否則為非峰值，且令C(p,q)＝0，更新三階相關(guān)矩陣Θ；

3-2.當(dāng)m序列的周期較長(zhǎng)時(shí)，若將矩陣Θ向量化后得到的(T/2)²×1的向量直接作為SAE網(wǎng)絡(luò)的輸入樣本，維度太大導(dǎo)致SAE網(wǎng)絡(luò)訓(xùn)練的計(jì)算量和訓(xùn)練難度增大；為此，提出了取模映射的方法，先將矩陣Θ映射為一個(gè)L′×L′的矩陣Θ′，即令：

C(p′,q′)＝C(p,q) (4)

其中，p′＝p mod L′，q′＝q mod L′，L′＜＜T/2；矩陣Θ′由C(p′,q′)組成，所有的特征信息仍包含在矩陣Θ′中，將Θ′向量化后得到SAE網(wǎng)絡(luò)的一個(gè)輸入樣本，一共產(chǎn)生N個(gè)網(wǎng)絡(luò)測(cè)試集樣本；

步驟4中，通過引入稀疏自編碼器和softmax回歸建立SAE網(wǎng)絡(luò)分類模型，用于m序列的識(shí)別，具體如下：

4-1.對(duì)于一個(gè)給定的無標(biāo)簽數(shù)據(jù)集{x⁽¹⁾,x⁽²⁾,x⁽³⁾,…}，其中x⁽ⁱ⁾∈R^m，自編碼網(wǎng)絡(luò)嘗試學(xué)習(xí)出一個(gè)映射，使輸出y⁽ⁱ⁾盡可能逼近輸入x⁽ⁱ⁾；于是，N個(gè)訓(xùn)練數(shù)據(jù)的代價(jià)函數(shù)為：

其中W為自編碼器的權(quán)重矩陣，b為偏置向量，λ為權(quán)重衰減系數(shù)；第二項(xiàng)為懲罰項(xiàng)，防止模型過擬合；為使模型具有更優(yōu)的學(xué)習(xí)數(shù)據(jù)特征的能力，在自編碼器的基礎(chǔ)上添加稀疏性約束條件，得到稀疏自編碼器，此時(shí)代價(jià)函數(shù)為：

式中，β為稀疏懲罰項(xiàng)系數(shù)，ρ為稀疏性參數(shù)，一般取接近于0的正數(shù)，為隱藏層節(jié)點(diǎn)j的平均激活度，

其中表示隱藏層節(jié)點(diǎn)的激活度；利用分批的數(shù)據(jù)和梯度下降法更新參數(shù)W和b直至算法收斂，由此得到稀疏自編碼的最優(yōu)W和b參數(shù)；

4-2.Softmax回歸模型主要用于解決多分類的問題；對(duì)于訓(xùn)練集{(x⁽¹⁾,y⁽¹⁾),(x⁽²⁾,y⁽²⁾),…(x^(N),y^(N))}，有y⁽ⁱ⁾∈{1,2,…,K}，總共K個(gè)不同的類別標(biāo)簽；對(duì)于給定的輸入樣本x⁽ⁱ⁾，使用假設(shè)函數(shù)對(duì)每一類別k估計(jì)出概率值p(y⁽ⁱ⁾＝k|x⁽ⁱ⁾；θ)，假設(shè)函數(shù)h_θ(x⁽ⁱ⁾)的形式為：

式中，θ₁,θ₂,…θ_K是概率模型的參數(shù)，等式右邊對(duì)模型的概率分布進(jìn)行歸一化，使概率之和為1；對(duì)于樣本x⁽ⁱ⁾，選擇最大概率取值對(duì)應(yīng)的k作為當(dāng)前樣本的分類結(jié)果，并與樣本的真實(shí)分類作比較，如果一致則分類正確，否則分類錯(cuò)誤；定義softmax分類器的代價(jià)函數(shù)為：

式中1{·}表示一個(gè)示性函數(shù)，即1{true}＝1，1{false}＝0；利用梯度下降法求解函數(shù)中的θ，通過最小化J(θ)得到可用的softmax分類器；

4-3.稀疏自編碼器網(wǎng)絡(luò)用于樣本特征的提取，softmax回歸模型用于完成序列識(shí)別；故將softmax分類器直接連接到SAE的隱藏層，得到SAE網(wǎng)絡(luò)的分類模型。