[發明專利]神經網絡魯棒性快速驗證方法、系統、設備及存儲介質

有效

• 申請號: 202110038415.8
• 申請日: 2021-01-12
• 公開（公告）號: CN112735550B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 郭山清;唐朋;張云若
• 申請（專利權）人: 山東大學
• 主分類號: G16H10/60
• 分類號: G16H10/60;G16H50/30;G06V10/26;G06V10/764;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 濟南圣達知識產權代理有限公司 37221
• 代理人: 黃海麗

1.基于神經網絡魯棒性快速驗證的用戶體檢數據分類系統，其特征是，包括：

選擇模塊，其被配置為：選擇健康用戶的體檢數據，并對體檢數據進行歸一化處理和設置誤差操作，根據歸一化處理后的用戶體檢數據和誤差，生成輸入集合；所述健康用戶的體檢數據，包括白細胞、中性粒細胞、淋巴細胞、血紅蛋白、紅細胞、平均紅細胞體積、血小板計數、平均血小板體積、血小板平均寬度的檢測數據；

分割模塊，其被配置為：對輸入集合進行分割處理，得到輸入集合的外殼；所述對輸入集合進行分割處理；具體步驟包括：

根據設定的寬度限制，計算輸入集合的每個維度上分割的個數；

根據每個維度上分割的個數，計算分割得到的分塊總數；

計算每個分塊對于輸入集合的相對位置；

根據相對位置，挑選出位于輸入集合邊界上的分塊的序號；

利用挑選出的分塊序號，得到超矩形；將所有的超矩形構成輸入集合的外殼；

根據設定的寬度限制，計算每個維度上分割的個數；具體包括：

其中，表示每個維度上分割出的個數，，為數據個數；

根據每個維度上分割的個數，計算分割得到的分塊總數；具體包括：

其中，表示分割得到的分塊總數；

求解模塊，其被配置為：將輸入集合的外殼作為待驗證神經網絡的輸入值，求解輸入集合的外殼對應的輸出可達集合估計；所述待驗證神經網絡為根據血常規指標進行二分類的神經網絡；

求解輸入集合的外殼對應的輸出可達集合估計；具體步驟包括：

對得到的超矩形計算對應的輸出可達集合估計；

輸出可達集合估計的并集為輸入集合的外殼對應的輸出可達集合估計；

判斷模塊，其被配置為：判斷輸出可達集合估計是否滿足輸出限制；如果滿足輸出限制，則得到待驗證神經網絡是安全的結論；否則，將得到待驗證神經網絡是不安全的結論；

訓練模塊，其被配置為：對驗證結果為安全的神經網絡進行訓練，訓練集為已知健康或非健康標簽的用戶體檢數據；

輸出模塊，其被配置為：將新用戶的體檢數據，輸入到訓練后的神經網絡中，輸出新用戶的分類標簽。

2.如權利要求1所述的基于神經網絡魯棒性快速驗證的用戶體檢數據分類系統，其特征是，

計算每個分塊對于輸入集合的相對位置；具體包括：

通過笛卡爾索引，表示每個分塊對于輸入集合的相對位置；

笛卡爾索引是一個由非零整數構成的向量，每個分量代表分塊在相應維度上的正向次序；；

以第個分塊為例，計算相應的笛卡爾索引；；

依次計算的分量，；

令，計算，使和成立，以及；計算出每個分塊對應的笛卡爾索引。

3.如權利要求2所述的基于神經網絡魯棒性快速驗證的用戶體檢數據分類系統，其特征是，

根據相對位置，挑選出位于輸入集合邊界上的分塊的序號；具體包括：

位于輸入集合邊界上的分塊為與輸入集合邊界有交集的分塊；

笛卡爾索引代表分塊在各個維度上的正向次序，任意維度上的笛卡爾索引為1或的分塊位于輸入集合的邊界上；

初始化集合為空集；對每個分塊，按照的順序，檢查或是否成立；

如果有某個j使得上式成立，將此時的k放入集合中；否則，不做操作；得到所有位于輸入集合邊界上的分塊的序號；

利用挑選出的分塊序號，得到超矩形；將所有的超矩形一起構成輸入集合的外殼；具體步驟包括：

求出第個分塊的區間形式；

求解的第個分量的公式：

求解的第個分量的公式：

得到超矩形；

所有超矩形一起構成了輸入集合的一個外殼。

4.如權利要求1所述的基于神經網絡魯棒性快速驗證的用戶體檢數據分類系統，其特征是，

判斷輸出可達集合估計是否滿足輸出限制；如果滿足輸出限制，則得到神經網絡是安全的結論；否則，將得到神經網絡是不安全的結論；具體包括：

輸入集合的外殼對應的輸出可達集合估計為所有的并集；

依次檢驗每個是否都是給定的輸出限制的子集；

是一個給定的輸出層的集合，其中的所有元素分類都是相同的；

如果有，得到神經網絡是安全的結論；否則，得到神經網絡是不安全的結論。