[發明專利]基于生成對抗網絡的稀疏碼本多址編解碼系統

有效

• 申請號: 202210869574.7
• 申請日: 2022-07-21
• 公開（公告）號: CN115860054B
• 公開（公告）日: 2023-09-26
• 發明（設計）人: 段超;羅俊;張書月;尹盼盼;李星星
• 申請（專利權）人: 廣州工商學院
• 主分類號: G06N3/0455
• 分類號: G06N3/0455;G06N3/0495;G06N3/0499;G06N3/094
• 代理公司: 廣州樂探樂創專利代理事務所(普通合伙) 44953
• 代理人: 崔旭

1.一種基于生成對抗網絡的稀疏碼本多址編解碼系統，其特征在于：所述稀疏碼本多址編解碼系統包括SCMA?TPGAN系統的編碼端和SCMA?TPGAN系統解碼端；

所述SCMA?TPGAN系統的編碼端，使用Transformer作為生成對抗網絡模型的生成器，所述Transformer模型包含一個編碼器和一個解碼器，Transformer中的編碼器和解碼器分別包含6個相同的層，位于編碼器中的層，由一個自注意力子層和一個前向神經網絡子層組成；

所述SCMA?TPGAN系統解碼端為卷積神經網絡作為生成對抗網絡模型的判別器，所述判別器網絡由卷積層、批歸一化層、激活層和最大池化層交替構成；

Transformer編碼器的算法包括以下步驟：

S1、將數據向量矩陣詞嵌入得到t＝[t1,t2…,tn]，經過位置編碼，用不同頻率的sin函數和cos函數直接計算，輸入詞嵌入向量t＝[t1,t2…,tn]加上位置編碼x＝[x1,x2,…,xn]所得到加入位置信息的詞嵌入仍然記為x＝[x1+t1,x2+22,…,xn+tn]，向量x就是Trasformer的輸入；

S2、將向量x輸入層，head數為2，此時的Mulit?Head(Q，K，V)記為Z的維數是n×d_model與X的維數一樣，d_model設置的是向量Query、Key和Value的維數；每個批次輸入序列長度是不一致的，長度不足的序列需要用0進行填充，使不同長度的序列進行對齊，在模型設計中使用“Padding?Mask”方式實現，即對需要填充的位置賦予一個負無窮大的數值，這樣經Softmax函數計算后結果就是一個趨近0的值，不會影響Attention的結果；

S3、利用殘差網絡和層歸一化調整特征信息以提高系統的準確度，進入AddNorm，通過一次殘差連接和層歸一化，得到的結果仍然記為x；

S4、先升維度，變換為更高維度進行提取特征，再降維度；

S5、再進入AddNorm，通過一次殘差網絡和層歸一化調整特征值作為Transformer編碼器的最終輸出值，作為編碼器的輸出，仍記為x，并作為下一個編碼器的輸入，模型總共設計6個編碼器堆疊，最后也就是最上層編碼器輸出值記為x；

S6、對輸出的結果x做全連接，經Soft?max變換之后，得到詞典庫上的概率分布，輸出最大的概率，并與真實值進行交叉熵損失函數，得到與真實值的差距值，并利用優化算法進行訓練；

所述SCMA?TPGAN系統解碼端基于PatchGAN網絡來設計鑒別網絡模型，將PatchGAN設計成全卷積的形式，當信號經過各層卷積后，不會直接輸入到全連接層或者是激活函數中，需使用卷積將輸入映射為N*N的矩陣；

所述矩陣中的每一個元素只有正確的或者是生成的這兩種選擇；

所述Transformer的核心為多頭注意力層，多頭注意力是基于放縮點積注意力，注意力機制描述為一個查詢(Query)到一組鍵值對的映射，計算表達式為Attention(Q，K，V)＝softmak(QK^T)V；

所述Q是Query的嵌入矩陣；所述K是Key的嵌入矩陣；所述V是每個Key對應的Value組成的矩陣；表示縮放因子。

2.根據權利要求1所述的基于生成對抗網絡的稀疏碼本多址編解碼系統，其特征在于：所述Transformer模型是基于編碼器－解碼器的構架，構架是由編碼組件、解碼組件和連接層組成。

3.根據權利要求2所述的基于生成對抗網絡的稀疏碼本多址編解碼系統，其特征在于：所述編碼器包括自注意力機制層和前饋神經網絡層。

4.根據權利要求3所述的基于生成對抗網絡的稀疏碼本多址編解碼系統，其特征在于：所述解碼組件由六個完全一樣的層組成，所述解碼器同樣有著兩個子層，在解碼器中，兩個子層間增加了一個Masked多頭注意力層，解碼到當前位置時，對解碼器輸入當前位置之前的信息保留，當前位置之后的信息進行屏蔽。

5.根據權利要求1所述的基于生成對抗網絡的稀疏碼本多址編解碼系統，其特征在于：所述卷積層和最大池化層的步幅均設置為2。