[發明專利]基于信道注意力和級聯提前退出的分布外檢測系統及方法

在審

• 申請號: 202310288978.1
• 申請日: 2023-03-23
• 公開（公告）號: CN116561568A
• 公開（公告）日: 2023-08-08
• 發明（設計）人: 賈俊鋮;李永昌
• 申請（專利權）人: 蘇州大學
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F18/24;G06N20/00
• 代理公司: 南京智造力知識產權代理有限公司 32382
• 代理人: 陳佳佳

1.基于信道注意力和級聯提前退出的分布外檢測系統，包括神經網絡結構，所述神經網絡結構包括多個卷積層，其特征在于，每個所述卷積層的輸出側均連接設置有TinyOOD檢測器，多個所述TinyOOD檢測器分別連接有一個級聯提前退出分支，多個所述TinyOOD檢測器順序連接。

2.根據權利要求1所述的分布外檢測系統，其特征在于，所述TinyOOD檢測器包括CA-NMD模型和邏輯回歸預測模型。

3.根據權利要求2所述的分布外檢測系統，其特征在于，所述CA-NMD模型為將信道注意力機制應用于原始NMD模型。

4.一種基于信道注意力和級聯提前退出的分布外檢測方法，應用于如權利要求1-3任一所述的分布外檢測系統，其特征在于，包括以下步驟：

S1：樣本輸入神經網絡結構；

S2：經卷積層提取后的樣本特征輸入TinyOOD檢測器；

S3：TinyOOD檢測器通過CA-NMD模型對輸入樣本運算并得出CA-NMD矢量；

S4：邏輯回歸預測模型通過CA-NMD矢量和前一次傳遞至當前卷積層的CA-NMD矢量預測輸入的樣本類型是否為分布外樣本；

S5：TinyOOD檢測器執行TinyOOD動態決策。

5.根據權利要求4所述的分布外檢測方法，其特征在于，步驟S3中CA-NMD矢量的計算方法包括以下步驟：

S31:擠壓步驟，將信道的全局空間信息擠壓到信道描述符中；

S32:激勵步驟，完全捕獲信道依賴關系，定義CA-NMD矢量。

6.根據權利要求5所述的分布外檢測方法，其特征在于，所述擠壓步驟用于將全局空間信息擠壓到信道描述符中，信道描述符的表示方式為：

其中，l為當前卷積層數，C為信道數，z^l為信道描述符矢量。

7.根據權利要求6所述的分布外檢測方法，其特征在于，所述激勵步驟為：使用兩層全連接網絡來捕獲同一卷積層下不同信道的依賴關系，計算公式為：

s^l＝σ(W₂δ(W₁z^l))；

其中，s^l表示l層中的信道注意力權重，δ是指ReLU函數，σ是指sigmoid函數，和是兩個全連接網絡的參數，r是縮減比；

最終，l層的CA-NMD矢量可以定義為：

CA-NMD^l＝s^lz^l。

8.根據權利要求4所述的分布外檢測方法，其特征在于，步驟S4中，TinyOOD檢測器檢測當前樣本是否為分布外樣本的檢測方法為：

獲取當前層下邏輯回歸預測模型的輸入具體為：

其中，l為當前卷積層數；

邏輯回歸預測模型包括預測分數和閾值γ，TinyOOD檢測器對當前輸入樣本的判斷結果為：

其中，l為當前卷積層數對應的TinyOOD檢測器的序數，若則當前輸入樣本為分布外樣本，否則為分部內樣本。