[發(fā)明專利]基于Transformer-IRB的短臨降雨預(yù)測(cè)方法、裝置和存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202111374147.3
• 申請(qǐng)日: 2021-11-18
• 公開（公告）號(hào): CN114137541A
• 公開（公告）日: 2022-03-04
• 發(fā)明（設(shè)計(jì)）人: 楊戈;黃典;馮圣中
• 申請(qǐng)（專利權(quán)）人: 國(guó)家超級(jí)計(jì)算深圳中心（深圳云計(jì)算中心）
• 主分類號(hào): G01S13/95
• 分類號(hào): G01S13/95;G01S7/41;G06N3/04;G06N3/08
• 代理公司: 深圳市順天達(dá)專利商標(biāo)代理有限公司 44217
• 代理人: 李琴

1.一種基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述方法包括：

將雷達(dá)回波圖像進(jìn)行預(yù)處理；

將預(yù)處理之后的連續(xù)的M幀雷達(dá)回波圖像送入預(yù)先構(gòu)建并訓(xùn)練好的基于Transformer-IRB的短臨降雨預(yù)測(cè)模型以得到N幀雷達(dá)回波圖像作為短臨降雨預(yù)測(cè)結(jié)果，其中，N大于M，所述短臨降雨預(yù)測(cè)模型包括塊嵌入模塊、特征提取模塊、解碼模塊，所述塊嵌入模塊提取連續(xù)的多幀雷達(dá)回波圖的嵌入特征并加上位置編碼后送入特征提取模塊，特征提取模塊采用若干具有多頭注意力層的Transformer-倒置殘差塊模塊構(gòu)成編碼器對(duì)輸入的嵌入特征進(jìn)行特征提取后送入所述解碼模塊，所述解碼模塊對(duì)輸入進(jìn)行解碼得到連續(xù)多幀雷達(dá)回波圖作為預(yù)測(cè)結(jié)果。

2.根據(jù)權(quán)利要求1所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述的將雷達(dá)回波圖像進(jìn)行預(yù)處理，包括：將雷達(dá)回波圖像的像元值映射到[0,255]范圍；

所述方法還包括：預(yù)先根據(jù)雷達(dá)回波圖像的歷史數(shù)據(jù)獲取去噪掩膜，將所述短臨降雨預(yù)測(cè)模型輸出的雷達(dá)回波圖像與去噪掩膜點(diǎn)乘得到去噪后的雷達(dá)回波圖。

3.根據(jù)權(quán)利要求2所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述獲取去噪掩膜，包括：

定義與雷達(dá)回波圖像相同分辨率大小的去噪掩膜，并將去噪掩膜的所有像元的像元值初始化為1；

搜索雷達(dá)回波圖的所有像元，將像元值的馬氏距離大于3倍標(biāo)準(zhǔn)差的像元記為噪聲點(diǎn)；

標(biāo)記雷達(dá)回波圖中的像元值大于0小于70的像元為噪聲點(diǎn)；

更新去噪掩膜中與所述噪聲點(diǎn)位置相同的像元的像元值為0。

4.根據(jù)權(quán)利要求1所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述塊嵌入模塊包括兩層逐點(diǎn)卷積層和圖到序列層構(gòu)成，第一個(gè)卷積層的輸出采用激活函數(shù)進(jìn)行非線性映射后送入第二個(gè)卷積層，第二個(gè)卷積層的輸出進(jìn)行線性映射后送入所述圖到序列層，所述圖到序列層將第二個(gè)卷積層處理后的特征圖按空間位置轉(zhuǎn)換為特征序列。

5.根據(jù)權(quán)利要求1或4所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述Transformer-倒置殘差塊模塊包括多頭注意力層、兩個(gè)層歸一化層、序列到圖層、兩個(gè)逐點(diǎn)卷積層、一個(gè)深度可分離卷積層、圖到序列層；

其中，所述Transformer-倒置殘差塊模塊接收上一模塊輸出的特征嵌入送入第一個(gè)層歸一化層，第一個(gè)層歸一化層的輸出依次經(jīng)由所述多頭注意力層處理、第二個(gè)層歸一化層、序列到圖層、第一個(gè)逐點(diǎn)卷積層送入深度可分離卷積層，且第一個(gè)逐點(diǎn)卷積層的輸出、深度可分離卷積層的輸出相加后送入第二個(gè)逐點(diǎn)卷積層，第二個(gè)逐點(diǎn)卷積層的輸出送入圖到序列層，所述圖到序列層的輸出與第一個(gè)層歸一化層的輸入相加后送入下一模塊；

其中，第一個(gè)逐點(diǎn)卷積層、深度可分離卷積層采用GeLU激活函數(shù)進(jìn)行非線性映射，第二個(gè)逐點(diǎn)卷積層進(jìn)行線性映射，序列到圖層將嵌入特征序列按空間位置轉(zhuǎn)換為特征圖。

6.根據(jù)權(quán)利要求5所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，逐點(diǎn)卷積層為分組數(shù)為1的卷積層或反卷積層；深度可分離卷積層為分組數(shù)為輸出維度的卷積層或反卷積層。

7.根據(jù)權(quán)利要求1所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述解碼模塊由序列到圖層、兩層反卷積神經(jīng)網(wǎng)絡(luò)層依次構(gòu)成，將特征嵌入映射為多幀雷達(dá)回波圖。

8.根據(jù)權(quán)利要求1所述的基于Transformer-IRB的短臨降雨預(yù)測(cè)方法，其特征在于，所述方法還包括：

在所述短臨降雨預(yù)測(cè)模型投入使用之前，從歷史數(shù)據(jù)中隨機(jī)抽取連續(xù)的M+N幀去噪后的雷達(dá)回波圖對(duì)所述短臨降雨預(yù)測(cè)模型進(jìn)行隨機(jī)訓(xùn)練；

在所述短臨降雨預(yù)測(cè)模型完成隨機(jī)訓(xùn)練之后并投入使用之后，以M幀大小的窗口從最新的歷史數(shù)據(jù)中滑動(dòng)抽取連續(xù)的M+N幀雷達(dá)回波圖進(jìn)行順序訓(xùn)練。