[發明專利]基于自編碼器的數據增廣改善深度學習信道估計性能方法

在審

• 申請號: 202110404444.1
• 申請日: 2021-04-15
• 公開（公告）號: CN113112003A
• 公開（公告）日: 2021-07-13
• 發明（設計）人: 楊綠溪;李林育;張征明
• 申請（專利權）人: 東南大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 南京瑞弘專利商標事務所(普通合伙) 32249
• 代理人: 徐激波

1.基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：包括以下步驟，

步驟1，建立兩個用于信道估計的基本卷積神經網絡模型；

步驟2，獲取無線通信信道估計的訓練集，并基于自編碼器進行數據增廣，得到增廣數據；

步驟3，增廣數據通過信道估計基本卷積神經網絡模型，得到基于自編碼器的數據增廣方法在測試集上的均方誤差值與數據集大小的關系；

步驟4，建立直線交點檢測法模型，獲取自編碼器提升無線通信信道估計模型性能時的數據集大小的閾值。

2.如權利要求1所述的基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：所述步驟1還包括以下步驟，

步驟1-1，將導頻相應的時頻數據建模為2維圖像，采用圖像超分辨率卷積神經網絡，為信道估計問題建立第一個神經網絡模型；

步驟1-2，將步驟1-1中神經網絡模型的輸出數據建模為2維圖像，采用一種圖像去噪卷積神經網絡，為信道估計問題建立第二個神經網絡模型。

3.如權利要求1或2所述的基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：所述步驟2還包括以下步驟，

步驟2-1，所述自編碼器包括編碼器f、解碼器g和損失函數，所述編碼器f將輸入的訓練集的信號x轉換為編碼信號z，所述解碼器g將編碼信號z轉換為輸出信號x'，即滿足以下關系：

步驟2-2，通過三層的深度神經網絡對編碼器f和解碼器g進行參數化，編碼器f和解碼器g的參數分別為K_f和K_g，給定編碼器f的函數為f:x→z，解碼器g的函數為g:z→x'，數據集的重構誤差為，

其中，J為損失函數；

假設解碼器g服從以g(f(x))為中心的高斯分布，可以將上述損失函數簡化為：

給定一個經過嚴格訓練后的自編碼器可以得到步驟2-3，獲取x的低維表示，即給z加上擾動，得到并使用解碼器g生成新數據經過訓練后的自編碼器f滿足下式：

其中，

4.如權利要求3所述的基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：所述步驟2中對自編碼器f的訓練還包括，

基于early-stop方法對自編碼器的進行訓練，且滿足：

其中，c和d為超參數，取c＝0.2，d＝0.3；

基于非完美編碼器生成和新數據

5.如權利要求4所述的基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：所述步驟3還包括，

步驟3-1，設單輸入單輸出的通信鏈路，其發送器和接收器之間的無線通信信道時頻響應矩陣為H，此無線通信信道估計的輸入為導頻值向量h，輸出為信道估計矩陣滿足如下公式：

其中，f_s和f_R分別是圖像超分辨率卷積神經網絡和圖像去噪卷積神經網絡；

步驟3-2，構建與實際環境相符合的仿真環境，生成用于信道估計任務的數據集，將該數據集分為訓練集和測試集且訓練集和測試集中的數據不重疊，其中，訓練數據集和測試數據集的大小分別為N_T和N_V；

步驟3-3，將包含多個訓練樣本的訓練集劃分為百量級、千量級和萬量級的子數據集，再將不同大小的子數據集作為訓練集樣本通過信道估計基本卷積神經網絡模型，得到數據集大小與測試集均方誤差的關系曲線；

步驟3-4，將經過數據增廣后的不同大小的訓練集輸入信道估計基本卷積神經網絡模型，且保持測試集樣本和步驟3-3中的一樣，得到數據集大小與測試集均方誤差的關系曲線。

6.如權利要求5所述的基于自編碼器的數據增廣改善深度學習信道估計性能方法，其特征在于：所述步驟4還包括，

步驟4-1，當總數據集大小在10⁴和10⁵的數量級時，初始實驗數據集大小分別為百數量級和千數量級，其他情況依次類推；

步驟4-2，若初始實驗數據集大小為D₁，則選擇一個測試點(D₂,y₂)，其中D₂為訓練數據集大小，且D₂＝D₁×n(n＝1,2,3,...)，y₂為在測試集均方誤差值開始變得相對緩慢的點，當某一點之前的均方誤差值和其之后的均方誤差值相差0.1以上時，取該點作為分界點y₂

步驟4-3，若整個數據集D的大小為D＝U×10^λ，則設置其中，U和λ分別為數據集D的有效位數和量級，為向下取整函數，選擇一個測試點(D₃,y₃)，其中D₃＝D-n×(D-D₄)(n＝1,2,3,...)，且y₃是在測試集上獲得的神經網絡的測試損失值；

步驟4-4，基于自編碼器的數據增廣方法，分別計算數據集大小為D₂和D₃時的測試損失y₄和y₅，根據測試點(D₂,y₂)和(D₃,y₃)確定第一線性方程曲線，根據(D₂,y₄)和(D₃,y₅)確定第二線性方程曲線，并將第一線性方程和第二線性方程曲線的交點的橫坐標作為閾值，當數據集大小超過該閾值時，自編碼器因增強數據的噪聲而失效。