[發明專利]一種低精度的深度神經網絡極化碼SC譯碼算法

在審

• 申請號: 202210963786.1
• 申請日: 2022-08-11
• 公開（公告）號: CN115378443A
• 公開（公告）日: 2022-11-22
• 發明（設計）人: 李桂萍;贠昌
• 申請（專利權）人: 西安工業大學
• 主分類號: H03M13/13
• 分類號: H03M13/13;G06N3/04;G06N3/08
• 代理公司: 西安新思維專利商標事務所有限公司 61114
• 代理人: 黃秦芳

本發明公開了一種低精度的深度神經網絡極化碼SC譯碼算法,首先基于深度神經網絡構造神經網絡譯碼器；改進神經網絡譯碼器的激活函數和損失函數；對神經網絡譯碼器采取權值量化；將極化碼劃分為子塊，分別使用神經網絡譯碼器進行譯碼，保存網絡模型；將訓練好的各個子塊的神經網絡譯碼器通過傳統SC譯碼算法進行耦合。本發明改善了傳統神經網絡譯碼器浮點運算帶來的計算資源消耗與額外內存開銷，取得了較低的譯碼時延，并且誤比特率性能有一定的改善。

技術領域

本發明屬于深度學習和極化碼譯碼領域，涉及一種低精度的深度神經網絡極化碼SC譯碼算法。

背景技術

2008年，E.Arikan教授根據信道極化現象首次提出了極化碼(Polar Codes)，區別于以往的信道編碼方式，極化碼因其在理論上被證明能夠達到香農極限而備受關注，目前已被確定為第五代增強移動寬帶(enhanced Mobile Broadband,eMBB)場景中的控制信道編碼方案。

極化碼的基本譯碼算法主要有串行抵消(Successive Cancellation,SC)譯碼算法和置信傳播(Belief Propagation,BP)譯碼算法。與BP譯碼算法相比，SC譯碼算法以及通過改進的SC算法可以實現較好的信道容量能力并達到較低的誤塊率(block error rate,BLER)，但受限于串行譯碼的性質，使得譯碼過程中吞吐量較低，時延較高。與SC譯碼算法相比，BP譯碼算法由于其并行譯碼的特性，從而具有較高的吞吐率和較低的譯碼時延，但是也導致了計算復雜度的提升，同時BP算法迭代譯碼的特性，也使得譯碼時延隨著迭代次數的增加而增加，并且在少量迭代內無法達到理想的糾錯性能。

SC算法作為一種比BP算法更流行、更基礎的極碼譯碼算法，具有更大的研究價值。Tobias Gruber等人在2017年提出了基于深度神經網絡(Deep Neural Networks,DNN)的極化碼譯碼方案，利用神經網絡去學習譯碼前后信息的映射關系，可以有效的替代傳統的復雜接收端譯碼算法，仿真證明了其譯碼性能可以達到和CA-SCL譯碼算法性能接近的最大后驗概率(maximum a posteriori probability,MAP)性能，但是只限于短碼長的極化碼，隨著碼長的增加，呈指數增長規律的計算復雜度依然是神經網絡譯碼器廣泛應用的一個阻礙。N.Doan等人則借鑒了分區譯碼器的設計思路，將多個神經網絡與SC譯碼器相串接，構成了神經連續刪除(Neural Successive Cancellation，NSC)譯碼器，在極化碼碼長為128，碼率為0.5的情況下，NSC能達到與分區BP譯碼器相同的譯碼性能，譯碼時延降低了42.5％。盡管NSC譯碼算法取得了較低的譯碼時延，但神經網絡譯碼器使用浮點數進行訓練，預訓練必須存儲許多權重，所需要的浮點運算在硬件和能源消耗方面都很昂貴，導致了更高的內存資源和時間開銷。

發明內容

本發明的目的是提供一種低精度的深度神經網絡極化碼SC譯碼算法，解決了現有技術中基于深度神經網絡極化碼SC譯碼算法浮點運算導致的較高的內存資源和時間開銷的問題。針對該問題，本發明設計一種低精度的深度神經網絡串行抵消譯碼器，該譯碼器由多個神經網絡譯碼器組成，通過SC譯碼連接在一起，減少了深度神經網絡SC譯碼算法的內存資源開銷，在取得較低譯碼時延的基礎上有一定的性能增益。

本發明所采用的技術方案是一種低精度的深度神經網絡極化碼SC譯碼算法，具體包括以下步驟：

(1)基于深度神經網絡構造神經網絡譯碼器；

(2)改進神經網絡譯碼器的激活函數和損失函數；

(3)對神經網絡譯碼器采取權值量化；

(4)將極化碼劃分為子塊，分別使用神經網絡譯碼器進行譯碼，保存網絡模型；

(5)將訓練好的各個子塊的神經網絡譯碼器通過傳統SC譯碼算法進行耦合；

步驟(1)中，深度神經網絡譯碼器模型可以抽象為將輸入映射到輸出的一個函數f: