[發明專利]一種自適應網絡拓撲的分布式ADMM機器學習方法

有效

• 申請號: 202110691239.8
• 申請日: 2021-06-22
• 公開（公告）號: CN113408741B
• 公開（公告）日: 2022-12-27
• 發明（設計）人: 曾帥;張燁;肖俊;林海韜
• 申請（專利權）人: 重慶郵電大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62
• 代理公司: 重慶市恒信知識產權代理有限公司 50102
• 代理人: 劉小紅

1.一種自適應網絡拓撲的分布式ADMM機器學習方法，其特征在于，包括以下步驟：

將節點分為1個管理節點與多個工作節點，并且將工作節點抽象為上層節點與下層節點；針對連通網絡將全局凸優化問題分解成若干個局部凸優化問題并進行求解，并通過協調局部最優解得到全局最優解，其中機器學習方法包含節點探測與迭代計算兩部分；節點探測部分包括上下層節點歸屬更新以及上下層節點通信以及管理節點與上層節點通信，迭代計算部分上下層相關節點數據通信與單次迭代計算，在節點探測過程中，工作節點將會運行迭代計算部分的更新，除此之外由上層節點在每次迭代完成時向管理節點反饋單次迭代完成；在選擇上層節點位置時通過貪心思想避免遍歷所有可能性，并采用動態選擇，使網絡中鏈路延遲的影響盡可能小；

所述節點探測部分具體包括以下步驟：

1)管理節點下發探測啟動clustering start指令至上層節點，并記錄當前時間t_s；

2)上層節點i接收clustering start指令后下發數據至對應下層節點列表L_i中的節點；

3)下層節點j接收數據并保存，直到接收到所有對應上層節點列表U_j中的節點數據，進行計算操作，完成后將數據返回給所有對應上層節點U_j；

4)上層節點i接收數據并保存，直到接收到所有對應下層節點列表L_i中的節點數據，進行計算操作，完成后將數據返回給所有對應下層節點L；

5)上層節點向管理節點發送一次迭代完成iter over指令；

6)管理節點等待接收所有上層節點iter over指令并記錄，當僅剩一個上層節點對應信息未收到時，將對應上層節點取消，獲取當前時間t_c，通過t_c-t_s獲得單次完整系統迭代所需時間t_l，將其保存在迭代時間集合T中，若t_i為迭代時間集合T中最小值，即t_i＝minT，則保存當前系統上層節點集合U，否則不更新U；

7)管理節點下發節點歸屬更新update指令至所有上層與下層節點，節點收指令后進行對應節點歸屬更新操作；

8)重復流程3至流程7，直到網絡中只剩下一個上層節點，此時管理節點保存的上層節點集合U為最終上層節點集合；

9)管理節點下發探測完成指令至所有上層節點與下層節點，節點收到指令后進行節點歸屬更新操作。

2.根據權利要求1所述的一種自適應網絡拓撲的分布式ADMM機器學習方法，其特征在于，用于求解正則化線性回歸問題，即其中A為m×n階矩陣，b為m階向量，λ為常數，x為n階向量。

3.根據權利要求1所述的一種自適應網絡拓撲的分布式ADMM機器學習方法，其特征在于，上層節點和下層節點之間包含一種相關節點歸屬關系，即下層節點和有鄰居關系的上層節點以及距離最近的上層節點相關；上層節點和有鄰居關系的下層節點相關；若下層節點到該上層節點為到所有上層節點中距離最近，則上層節點與該下層節點也相關；每個下層節點可能與多個上層節點相關，每個上層節點也可能與多個下層節點相關。

4.根據權利要求1所述的一種自適應網絡拓撲的分布式ADMM機器學習方法，其特征在于，每個下層節點保存本地變量x與每個相關上層節點i對應的變量u_i，每個上層節點保存本地變量z，所有變量x,u,z均為n階向量，最初始狀態均為n階零向量，且與權利要求2中變量x同階。