[發明專利]分布式設備使用機器學習模型聚合系統

有效

• 申請號: 202010943090.3
• 申請日: 2020-09-09
• 公開（公告）號: CN112101576B
• 公開（公告）日: 2021-07-30
• 發明（設計）人: 樊星
• 申請（專利權）人: 上海松鼠課堂人工智能科技有限公司
• 主分類號: G06N20/20
• 分類號: G06N20/20
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種分布式設備使用機器學習模型聚合系統，其特征在于，包括模型存儲平臺、模型分配平臺、多個模型使用設備、多個中間處理設備和分析處理平臺，其中：

模型存儲平臺，用于存儲多個機器學習模型；

模型分配平臺，用于根據模型使用設備發送來的模型使用請求，從所述模型存儲平臺獲取與所述模型使用請求匹配的機器學習模型，并將所述匹配的機器學習模型發送給所述模型使用設備；

多個模型使用設備，分散布置于不同的地址位置處，每個模型使用設備用于向所述模型分配平臺發送模型使用請求，獲取所述模型分配平臺返回的機器學習模型，對所述機器學習模型進行使用，生成對所述機器學習模型的模型使用信息，將所述模型使用信息根據使用時間分成多個模型使用信息段，將每個模型使用信息段發送給該模型使用信息段相應的中間處理設備；

多個中間處理設備，分散布置于不同的地址位置處，每個中間處理設備用于獲取相應的模型使用設備發送來的模型使用信息段進行存儲；將模型使用信息段對應的預設信息發送給所述分析處理平臺；

所述分析處理平臺，用于對所述中間處理設備發送來的預設信息進行處理；

其中，后臺管理平臺為每個模型使用設備配置相應的中間處理設備，包括：

確定第e個模型使用設備所處的地理區域；

確定所述地理區域內的所有中間處理設備，設所述所有中間處理設備的數量為p，每個中間處理設備的供模型使用設備使用的設備性能參數種類包括t類，則第i個中間處理設備的設備性能參數向量記為V_i＝(v_i1,v_i2,...,v_it)，其中，i＝1,2,3,…,p；v_ij表示第i個中間處理設備第j個設備性能參數對應的參數值g_ij對應的歸一化值；j＝1,2,3,…,t；其中，

將所述第e個模型使用設備對中間處理設備的設備性能需求參數向量記為H_e＝(h_e1,h_e2,...,h_et)，其中，h_ej表示第e個模型使用設備對所述所有中間處理設備的第j個設備性能參數的占用量，其中，f_ej表示第e個模型使用設備對第j個設備性能參數的需求量；

按照如下公式(1)計算將第e個模型使用設備配置給第i個中間處理設備時對應的配置評價指數ω_ei：

按照上述公式(1)計算出將第e個模型使用設備配置給每個中間處理設備時分別對應的配置評價指數，獲得p個配置評價指數；

對p個配置評價指數按照從大到小的順序排序，獲得配置評價指數序列；確定所述配置評價指數序列中前m位的配置評價指數；將第e個模型使用設備配置給前m位的配置評價指數所對應的中間處理設備，m等于或大于2；

其中，所述后臺管理平臺按照如下公式(2)計算第e個模型使用設備對應的優先級評價指數:

其中，f_j-max表示目標中間處理設備所對應的所有模型使用設備各自對應的對第j個設備性能參數的需求量中，最大的需求量的數值；目標中間處理設備為第e個模型使用設備所配置的任何一個中間處理設備；

λ_ea表示第e個模型使用設備使用第a個機器學習模型的活躍度，λ_ea的數值等于：第e個模型使用設備使用第a個機器學習模型時，第a個機器學習模型對第e個模型使用設備的CPU占用率超過預設占用率閾值時的使用總時長，除以所述e個模型使用設備使用第a個機器學習模型的總時長；u_a表示第a個機器學習模型對應的重要性因子，為預設值，其值大于0且小于1；a＝1，2，3,…,A；其中，A為模型存儲平臺中存儲的所有機器學習模型的總數目；

所述后臺管理平臺將所述目標中間處理設備所對應的所有模型使用設備各自對應的優先級評價指數，按照從大到小的順序排序，獲得模型使用設備序列；

所述后臺管理平臺將所述模型使用設備序列發送給所述目標中間處理設備；

所述目標中間處理設備按照所述模型使用設備序列對應的順序，處理所述模型使用設備序列中的模型使用設備發送來的模型使用信息段；

所述處理所述模型使用設備序列中的模型使用設備發送來的模型使用信息段，包括：存儲所述模型使用設備序列中的模型使用設備發送來的模型使用信息段，或者，獲取所述模型使用設備序列中的模型使用設備發送來的模型使用信息段對應的預設信息。