[發明專利]基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法

有效

• 申請號: 202010107381.9
• 申請日: 2020-02-21
• 公開（公告）號: CN111224906B
• 公開（公告）日: 2022-04-01
• 發明（設計）人: 張祖凡;晏小琴;甘臣權;張家波
• 申請（專利權）人: 重慶郵電大學
• 主分類號: H04L25/02
• 分類號: H04L25/02;H04B7/0413;G06N3/04;G06N3/08
• 代理公司: 北京同恒源知識產權代理有限公司 11275
• 代理人: 趙榮之

1.一種基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法，其特征在于：包括以下步驟：

步驟一：簡化用于大規模MIMO系統置信傳播算法并標量化，得到最初適用于大規模MIMO系統的近似消息傳遞算法；具體過程包括：

大規模MIMO系統在基站端配置M根傳輸天線，用戶端N傳輸天線，其實值信號模型為：

y＝Hx+n (1)

其中表示接收端的接收信號矢量，表示用戶端傳輸的調制信號，H表示獨立同分布的信道矩陣服從N(0,1/2M)，為服從高斯分布的加性高斯白噪聲，其均值為0，方差為已知接收信號y和信道矩陣H，根貝葉斯理論和最小均方誤差估計

在大規模MIMO系統因子圖的BP迭代過程中，將從變量節點到因子節點的消息表示為J_i→j；同樣，讓表示從因子節點到變量節點的消息，在第t次迭代時，消息方程更新如下：

假定傳輸信號x服從高斯分布根據高斯分布的乘法也服從高斯分布，再根據貝葉斯定理與高斯分布乘法運算法則，消息迭代過程為

令利用泰勒級數展開以及矩陣歸一化得到標量化的AMP檢測算法中的均值與方差更新表達式：

其中，

步驟二：設置訓練參數，得到改進的近似消息傳遞算法；具體包括：

將步驟一中的算法迭代過程展開構成神經網絡，稱為AMP-DNN，并從訓練數據中學習網絡參數的最優值；通過深度學習技術為算法中的均值方差更新提供一個合適的步長，包括加入可訓練參數λ_t，用于精確計算

將設置為可訓練的參數，對于步驟一中算法中的Onsager修正項將MIMO系統分解為相同信噪比的獨立AWGN信道，修正項的精確度影響估計結果，將Onsager修正項設為其中β_t為訓練參數

步驟三：將帶有訓練參數的近似消息傳遞算法展開成一個用于大規模MIMO系統檢測的深度神經網絡；具體包括：

將帶有訓練參數的迭代過程展開成網絡；所述的AMP-DNN由若干層功能單元組成，其中輸入層和輸出層之間有T層隱含層，每一個隱含層都具有相同的結構，對應于具有可訓練參數的迭代，即有多少迭代就有多少隱藏層；

訓練數據和測試數據由在不同配置下隨機生成的數據對組成其中傳輸信號x從調制符號中均勻隨機產生，接收信號y根據已知的信道矩陣和噪聲方差通過大規模MIMO信道模型產生；

將小批量訓練數據輸入到AMP-DNN檢測網絡中，初始化后通過最小化原始傳輸信號x與估計信號之間的損失來調整網絡參數來訓練網絡，損失函數定義為：

其中為網絡中訓練的參數，通過反向傳播計算且用隨機梯度優化器來優化，最后整個檢測過程由DL庫PyTorch實施；

步驟四：對所構建的深度神經網絡進行離線訓練，得到適用于MIMO系統檢測的最優近似消息傳遞深度神經網絡，用訓練好的神經網絡進行在線檢測。

2.根據權利要求1所述的基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法，其特征在于：所述步驟四具體包括：

通過PyTorch搭建AMP-DNN檢測器，在信噪比范圍為0-14dB，以2dB為增量，不同情況下的信噪比和天線配置下進行實驗，傳輸數據的調制模式為QPSK、16QAM，輸入層數據為尺寸為1024的1000個mini批次，初始化r⁰，Adam優化器的學習率設為0.0025，選擇合適的層數，進行訓練，優化參數，用訓練好的神經網絡進行在線檢測。