[發明專利]一種基于梯度下降的時序模糊認知圖的學習方法及系統

在審

• 申請號: 201810592605.2
• 申請日: 2018-06-11
• 公開（公告）號: CN108875960A
• 公開（公告）日: 2018-11-23
• 發明（設計）人: 馮禹洪;李宸;華靜靜;周才清;鐘皓明;苗春燕
• 申請（專利權）人: 深圳大學
• 主分類號: G06N99/00
• 分類號: G06N99/00;G06N7/02
• 代理公司: 深圳市恒申知識產權事務所(普通合伙) 44312
• 代理人: 袁文英

1.一種基于梯度下降的時序模糊認知圖的學習方法，其特征在于，包括：

步驟A，獲取初始樣本數據，對所述初始樣本數據進行預處理，得到樣本數據；

步驟B，對所述樣本數據進行劃分，得到訓練樣本集和預測樣本集；

步驟C，使用基于時序的皮爾遜相關系數初始化權值函數，在所述訓練樣本集中內構建全連接的時序模糊認知圖網絡；

步驟D，根據預置的迭代次數，使用批量梯度下降法對初始化后的權值函數進行優化，用損失函數度量每次優化后的權值函數的誤差；

步驟E，選取使得損失函數最小的權值函數，構建最優時序模糊認知圖網絡，所述最優時序模糊認知圖表示所述樣本數據中每個節點在不同時間段內的互相影響；

步驟F，利用所述預測樣本集對所述最優時序模糊認知圖進行驗證。

2.如權利要求1所述的學習方法，其特征在于，所述步驟A包括：

步驟A1，從預置的數據源獲取初始樣本數據；

步驟A2，對所述初始樣本數據進行包括特征提取、歸一化的預處理，得到所述樣本數據，所述樣本數據表示各個特征在每個時刻的值。

3.如權利要求1所述的學習方法，其特征在于，所述步驟B包括：

步驟B1，對所述樣本數據使用滑窗法，生成大小相同的若干樣本組；

步驟B2，將若干所述樣本組劃分為訓練樣本集和測試樣本集。

4.如權利要求1所述的學習方法，其特征在于，所述樣本組內，第s時刻每個節點與前s-1個時刻所有節點均有邊連接，所述步驟C包括：

步驟C1，使用基于時序的皮爾遜相關系數初始化每條邊的權值函數，得到權值函數集合，所述皮爾遜相關系數為：

X＝{x₁,x₂,…,x_n}和Y＝{x₁,x₂,…,x_n}表示變量，Corr(X_j,X_i,t')表示X_j(t)與經過t'時間之后的X_i(t+t')之間的相關程度，i,j表示特征，X_j表示數據的第j各特征；

步驟C2，根據所述權值函數集合在所述訓練集樣本集中的每個樣本組內構造全連接的時序模糊認知圖網絡。

5.如權利要求4所述的學習方法，其特征在于，所述步驟D包括：

步驟D1，根據所述權值函數集合，基于模糊認知圖FCM的原理及時序特性，利用sigmod函數計算得到初始預測值；

步驟D2，根據所述初始預測值，使用均方差作為損失函數：

對于樣本l的節點C_i的誤差為：則對于有n個節點的樣本l，其誤差為：因此，所有樣本的誤差為：

步驟D3，使用批量梯度下降法對權值進行優化：

將節點C_i的損失函數關于一個權值函數求導，得到：

對權值函數進行迭代更新，其增量為：其中γ為設定的學習率，在迭代過程中存在由大到小的三個階段變化；

步驟D4，通過剪枝操作進行權值優化，以降低參數空間的維度，減少過擬合，得到迭代后的權值函數：

在整個時間段內節點C_j對需要預測的節點C_i的影響f_ij(t')總是小于預設閾值，則刪除所有時刻節點C_j與節點C_i之間的邊，剪枝操作隨著學習率γ的變化，只進行三次；

步驟D5，進行下一次迭代，直到迭代次數達到預置的迭代次數，得到一組使得損失函數最小的最優權值函數。