[發明專利]企業信用等級分類模型訓練方法、裝置、設備及存儲介質

在審

• 申請號: 202211595497.7
• 申請日: 2022-12-13
• 公開（公告）號: CN115828158A
• 公開（公告）日: 2023-03-21
• 發明（設計）人: 趙巖;傘興
• 申請（專利權）人: 浙江諾諾網絡科技有限公司
• 主分類號: G06F18/241
• 分類號: G06F18/241;G06F18/15;G06F18/213;G06N3/0464;G06N3/048;G06N3/08;G06Q40/03;G06Q30/0601
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 魏亞茹

1.一種企業信用等級分類模型訓練方法，其特征在于，包括：

獲取歷史企業征信數據，并對所述歷史企業征信數據進行數據預處理操作，以得到目標訓練樣本；

將所述目標訓練樣本輸入至基于注意力機制構造的預設深度學習模型中，以基于所述目標訓練樣本和預設包圍求解算法確定出所述預設深度學習模型的目標參數，以便得到訓練后深度學習模型；所述預設包圍求解算法為基于用于對參數搜索器的搜索位置進行移動的第一移動方式和第二移動方式構建的算法；所述第一移動方式為基于包圍機制的移動方式，所述第二移動方式為基于螺旋方程的移動方式；

將所述訓練后深度學習模型確定為目標企業信用等級分類模型，以便利用所述目標企業信用等級分類模型進行企業信用等級分類操作。

2.根據權利要求1所述的企業信用等級分類模型訓練方法，其特征在于，所述對所述歷史企業征信數據進行數據預處理操作，以得到目標訓練樣本，包括：

對所述歷史企業征信數據進行數據清洗操作，以得到清洗后征信數據；

對所述清洗后征信數據依次進行數據集成操作和數據降維操作，以得到降維后征信數據；

生成與所述降維后征信數據對應的詞向量特征，以得到目標訓練樣本。

3.根據權利要求2所述的企業信用等級分類模型訓練方法，其特征在于，所述對所述歷史企業征信數據進行數據清洗操作，以得到清洗后征信數據，包括：

利用預設數據清洗方法對所述歷史企業征信數據進行數據清洗操作，以得到清洗后征信數據；所述預設數據清洗方法包括缺失值補全、重復值去除、降噪處理和離群點去除中的任意一種或幾種的組合。

4.根據權利要求1所述的企業信用等級分類模型訓練方法，其特征在于，所述確定出所述預設深度學習模型的目標參數，包括：

確定當前隨機數；

基于所述當前隨機數從所述預設包圍求解算法中篩選所述第一移動方式或所述第二移動方式作為當前參數搜索器移動方式；

利用所述當前參數搜索器移動方式對所述參數搜索器的當前搜索位置進行移動，然后重新跳轉至所述確定當前隨機數，直到滿足預設結束條件，以得到迭代后輸出的目標搜索器；

基于所述目標搜索器確定出最優參數搜索器，并利用所述最優參數搜索器確定出所述預設深度學習模型的目標參數。

5.根據權利要求4所述的企業信用等級分類模型訓練方法，其特征在于，所述基于所述目標搜索器確定出最優參數搜索器，包括：

根據預設隨機搜索器確定規則確定出隨機搜索器；

從所述隨機搜索器和所述目標搜索器中篩選出最優參數搜索器。

6.根據權利要求1至5任一項所述的企業信用等級分類模型訓練方法，其特征在于，所述將所述目標訓練樣本輸入至基于注意力機制構造的預設深度學習模型中之前，還包括：

構造依次連接的第一卷積層、第一最大池化層、第一分組卷積注意力模塊、第二分組卷積注意力模塊、第二最大池化層、全連接層以及激活函數的深度學習模型，以得到所述預設深度學習模型；

其中，所述第一分組卷積注意力模塊和所述第二分組卷積注意力模塊均為基于注意力機制構造的用于進行分組卷積的模塊。

7.根據權利要求6所述的企業信用等級分類模型訓練方法，其特征在于，任一所述分組卷積注意力模塊中，均包括：第二卷積層、第一組卷積層、第二組卷積層、第三組卷積層以及用于進行加權平均處理的運算模塊；

其中，所述第一組卷積層、所述第二組卷積層、所述第三組卷積層中均包含若干依次連接的卷積層；所述第二卷積層的輸出端分別與所述第一組卷積層、所述第二組卷積層、所述第三組卷積層的輸入端連接，所述運算模塊的輸入端分別與所述第一組卷積層、所述第二組卷積層、所述第三組卷積層的輸出端連接。