[發明專利]基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法

有效

• 申請號: 202010107381.9
• 申請日: 2020-02-21
• 公開（公告）號: CN111224906B
• 公開（公告）日: 2022-04-01
• 發明（設計）人: 張祖凡;晏小琴;甘臣權;張家波
• 申請（專利權）人: 重慶郵電大學
• 主分類號: H04L25/02
• 分類號: H04L25/02;H04B7/0413;G06N3/04;G06N3/08
• 代理公司: 北京同恒源知識產權代理有限公司 11275
• 代理人: 趙榮之

本發明涉及一種基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法，屬于無線通信技術領域，包括步驟一：簡化用于大規模MIMO系統置信傳播算法并標量化，得到最初適用于大規模MIMO系統的近似消息傳遞算法；步驟二：設置訓練參數，得到改進的近似消息傳遞算法；步驟三：將帶有訓練參數的近似消息傳遞算法展開成一個用于大規模MIMO系統檢測的深度神經網絡；步驟四：對所構建的深度神經網絡進行離線訓練，得到適用于MIMO系統檢測的最優近似消息傳遞深度神經網絡，用訓練好的神經網絡進行在線檢測。本發明實現了以較低復雜度，達到了更低的誤碼率，并且對各種信道、天線配置以及不同的調制方式都具有穩健性。

技術領域

本發明屬于無線通信技術領域，涉及一種基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法。

背景技術

大規模多輸入多輸出(multiple input multiple output,MIMO)系統在現代通信中具有重要意義。然而，隨著用戶和基站(Base Station,BS)天線數量的增加和接收信號復雜度的提高，在BS處對信號的有效檢測變得越來越困難。因此，如何實現低誤碼率和低計算復雜度的信號檢測成為人們關注的焦點。針對大規模MIMO系統來說，通過判斷是否使用深度學習技術，分為傳統的檢測算法與基于深度學習的檢測算法。

在傳統的方法中，最大似然算法是最優檢測器(Maximum Likelihood,ML)是最優檢測器，但是其計算復雜度隨著天線數呈指數增長。此外，調制階數涉及窮舉搜索，因此在實際的大規模MIMO系統中部署是不可行的。為了降低復雜度，提出了一種基于格搜索的球面譯碼算法。雖然它的性能與ML檢測器非常接近，但是由于搜索空間不能設置得太小，所以復雜度仍然很高。隨后出現了著名的線性最小均方誤差(linear minimum mean squareerror，LMMSE)算法，該算法可以實現次優的檢測性能。由于高維矩陣的反演和克矩陣的計算，難以應用到實際工程中。為了避免逆矩陣，LMMSE檢測器使用了一些經典的迭代方法，如Jacobi算法、Richardson算法、Gauss-Seidel算法和Neumann級數，以降低其復雜度。但是，由于犧牲了檢測性能，很多情況下難以滿足可靠性要求。

與上述的線性檢測器不同，基于消息傳遞算法的信念傳播(Belief Propagation,BP)和迭代檢測器具有較好的性能和較低的復雜度。但是，當因子圖有一個循環時，它們可能會發散。為了克服這個問題，利用中心極限定理和泰勒級數展開，提出了近似消息傳遞算法(Approximate Message Passing,AMP)來逼近BP檢測器。一方面，它只能在有信號先驗信息的情況下達到最優性能，這在實踐中是有局限性的。另一方面，當MIMO信道在空間上相關時，可能不收斂。為了方便更一般的信道矩陣的收斂，研究了阻尼和正交AMP算法。然而，在每次迭代中，最優因子的計算都帶來了巨大的計算負擔，這與低復雜度是相悖的。

近年來，深度學習(Deep Learning,DL)已經成功地應用于許多領域，如計算機視覺，自然語言處理，情感分析。同時，基于DL的通信系統方法開始吸引人們的注意，如將深度學習技術應用于物理層，調制識別，信道估計和信號檢測等。在MIMO檢測方面，引用深度學習技術，將檢測任務看成一個黑盒，通過使用大量數據來訓練大量的參數來實現檢測過程。但是整個訓練的時間和復雜度極高。

發明內容

有鑒于此，本發明的目的在于針對在大規模MIMO系統中信號檢測過程復雜度與檢測性能難以折中的問題，提供一種將深度學習與傳統通信技術結合起來的檢測算法，將深度學習技術應用于大規模MIMO系統中，實現了以較低復雜度得到較高檢測性能的信號檢測結果。

為達到上述目的，本發明提供如下技術方案：

一種基于深度神經網絡的近似消息傳遞大規模MIMO信號檢測算法，包括以下步驟：

步驟一：簡化用于大規模MIMO系統置信傳播算法并標量化，得到最初適用于大規模MIMO系統的近似消息傳遞算法；