[發(fā)明專利]一種風險等級的分類方法及模型訓練方法

在審

• 申請?zhí)枺?/td>: 202310084176.9
• 申請日: 2023-02-09
• 公開（公告）號: CN115965822A
• 公開（公告）日: 2023-04-14
• 發(fā)明（設計）人: 劉斌;王福川;武梓涵;何璐瑤;楊理踐;任建;于慧;耿浩;廉正;王竹筠;高夢真
• 申請（專利權）人: 沈陽工業(yè)大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/774;G06V10/26;G06Q10/04;G06Q10/0635;G06Q10/0639;G06F17/16
• 代理公司: 北京恒律知識產權代理有限公司 11416
• 代理人: 張琳麗

本發(fā)明公開了一種風險等級的分類方法及模型訓練方法，涉及管道無損檢測技術領域，先根據(jù)幅度參數(shù)和梯度參數(shù)對弱磁信號數(shù)據(jù)進行風險等級和圖像塊劃分；利用多頭自注意力層，將每個圖像塊投影得到：查詢矩陣、關鍵字矩陣和值矩陣；然后計算每個圖像塊與其他圖像塊的關聯(lián)程度得分，再除以縮放因子，利用Softmax函數(shù)進行歸一化運算，再將結果乘以值矩陣，將每個乘積相加之后利用MLP分類層進行分類，最后對模型進行優(yōu)化。本發(fā)明利用多頭自注意力層，通過關聯(lián)程度和權值的計算，使得模型能夠投入更多的注意力資源以捕獲輸入的弱磁信號應力集中區(qū)的細節(jié)信息，抑制其它的無用信息，從而能夠高效地進行管道弱磁信號的分類。

技術領域

本發(fā)明涉及管道無損檢測技術領域，特別是涉及一種基于ViT的管道弱磁信號風險等級的分類方法及模型訓練方法。

背景技術

油氣管道安全維護已經成為“國家能源戰(zhàn)略”的重要組成部分，管道內檢測技術是國際公認的管道安全維護最有效手段。近些年來，由于應力引起的管道突發(fā)性事故頻頻發(fā)生，國際管道內檢測技術領域面臨新的挑戰(zhàn)。管道運輸下伴隨著復雜應力載荷作用，因此對管道應力集中區(qū)進行檢測分析有極其重要的工程應用價值，若能通過建立信號分類模型，高效準確地對弱磁信號風險等級進行分類，將進一步保障管道運行的安全性。

傳統(tǒng)的弱磁信號分析方法需要人工提取弱磁信號的特征，費時費力。隨著人工智能技術的發(fā)展，越來越多的人工智能方法應用于管道弱磁信號的分析，比如經典的機器學習方法如KNN，SVM等，深度學習方法的CNN，RNN等。基于機器學習和深度學習的方法可以自動提取和學習管道弱磁信號的特征，極大地推動了管道弱磁信號分析的發(fā)展。但現(xiàn)有應用于管道弱磁信號分類的技術存在分類效率低的缺點。

發(fā)明內容

本發(fā)明的目的是提供一種風險等級的分類方法及模型訓練方法，通過多頭自注意力層，使得模型能夠投入更多的注意力資源以捕獲輸入的弱磁信號應力集中區(qū)的細節(jié)信息，抑制其它的無用信息，從而能夠高效率的進行風險等級的分類。

為實現(xiàn)上述目的，本發(fā)明提供了如下方案：

一種風險等級分類模型的訓練方法，所述方法包括：

根據(jù)幅度參數(shù)和梯度參數(shù)對弱磁信號數(shù)據(jù)進行風險等級劃分，得到標簽數(shù)據(jù)；

將所述標簽數(shù)據(jù)進行圖像塊劃分，得到若干個圖像塊；

獲取風險等級分類網絡；所述風險等級分類網絡包括：多頭自注意力層和MLP分類層；

利用所述多頭自注意力層執(zhí)行如下步驟：

將每個圖像塊進行線性投影，得到三個矩陣向量；所述三個矩陣向量包括：查詢矩陣、關鍵字矩陣和值矩陣；

針對每個圖像塊：

根據(jù)所述三個矩陣向量計算所述圖像塊與其他圖像塊的關聯(lián)程度得分；

將所述關聯(lián)程度得分除以縮放因子，得到縮放關聯(lián)程度得分；

利用Softmax函數(shù)對所述縮放關聯(lián)程度得分進行歸一化運算，得到歸一化得分；

將所述歸一化得分乘以值矩陣，得到權值矩陣；

將每個圖像塊的所述權值矩陣累加，得到累加權值矩陣；

利用所述MLP分類層，計算所述累加權值矩陣的幅度參數(shù)和梯度參數(shù)；并根據(jù)所述累加權值矩陣的幅度參數(shù)和梯度參數(shù)對所述累加權值矩陣進行風險等級分類，得到風險等級分類結果；

根據(jù)所述標簽數(shù)據(jù)和所述風險等級分類結果利用交叉熵損失函數(shù)優(yōu)化所述風險等級分類網絡，得到風險等級分類模型。

一種風險等級分類模型的訓練系統(tǒng)，所述系統(tǒng)包括：

標簽獲取單元，用于根據(jù)幅度參數(shù)和梯度參數(shù)對弱磁信號數(shù)據(jù)進行風險等級劃分，得到標簽數(shù)據(jù)；