[發(fā)明專利]一種通用的機(jī)器學(xué)習(xí)超參黑盒優(yōu)化方法及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 201811221830.1
• 申請日: 2018-10-19
• 公開（公告）號: CN109447277A
• 公開（公告）日: 2019-03-08
• 發(fā)明（設(shè)計）人: 洪萬福
• 申請（專利權(quán)）人: 廈門淵亭信息科技有限公司
• 主分類號: G06N99/00
• 分類號: G06N99/00;H04L29/06
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發(fā)明提供了一種通用的機(jī)器學(xué)習(xí)超參黑盒優(yōu)化方法及系統(tǒng)，涉及人工智能和自動機(jī)器學(xué)習(xí)領(lǐng)域。包括，超參優(yōu)化客戶端，用于提交優(yōu)化請求；超參優(yōu)化服務(wù)門戶，用于接收客戶端請求進(jìn)行處理；學(xué)習(xí)引擎，用于對訓(xùn)練集進(jìn)行模擬學(xué)習(xí)；超參推薦引擎，用于根據(jù)模擬學(xué)習(xí)結(jié)果進(jìn)行超參推薦；效果評估組件，用于評估訓(xùn)練集各超參集合的效果及性能；優(yōu)化算法配置組件，用于超參優(yōu)化算法的配置；自動停止組件，用于停止無意義的訓(xùn)練集；超參優(yōu)化控制面板，用于管理配置、調(diào)度監(jiān)控等。本發(fā)明的有益效果為：實現(xiàn)黑盒優(yōu)化，使用簡單，降低機(jī)器學(xué)習(xí)調(diào)參的門檻；引入新算法時可以快速適配優(yōu)化；高可用性和高擴(kuò)展性；內(nèi)置最先進(jìn)的超參優(yōu)化算法，適合大規(guī)模應(yīng)用。

技術(shù)領(lǐng)域

本發(fā)明屬于人工智能和自動機(jī)器學(xué)習(xí)領(lǐng)域，具體涉及一種通用的機(jī)器學(xué)習(xí)超參黑盒優(yōu)化方法及系統(tǒng)。

背景技術(shù)

隨著這幾年新一波人工智能浪潮的到來，機(jī)器學(xué)習(xí)相關(guān)技術(shù)被應(yīng)用到諸多行業(yè)和領(lǐng)域。調(diào)參是機(jī)器學(xué)習(xí)中非常重要的一個環(huán)節(jié)，機(jī)器學(xué)習(xí)模型應(yīng)用的成功離不開好的調(diào)參。對于調(diào)參，目前行業(yè)大多做法是用人工的方式就行不斷調(diào)整嘗試，直至找到滿意的參數(shù)為止。這種方式有諸多弊端，第一是耗費大量的人工成本，而且?guī)в泻艽蟮闹饔^性，可解釋性低；第二是針對不同的算法，需要用不同的調(diào)參方法，特別是面對新算法時需要做大量的工作。

為了解決這些弊端，行業(yè)出現(xiàn)了自動化機(jī)器學(xué)習(xí)（AutoML）的技術(shù)，其中包括Hyperopt等方案，在一定程度上實現(xiàn)了自動調(diào)參的目標(biāo)。當(dāng)然，這些方案也存在一些缺點，例如伸縮性和靈活性比較低，部分方案都是以第三方庫的形式提供服務(wù)，需要大量的手工代碼和工程實施來進(jìn)行模擬驗證，無法實現(xiàn)真正意義上的完全自動調(diào)參。

發(fā)明內(nèi)容

為了解決這些問題，在自動化機(jī)器學(xué)習(xí)的領(lǐng)域往前更進(jìn)一步，實現(xiàn)通用的自動調(diào)參方案，用戶無需關(guān)心優(yōu)化器的具體實現(xiàn)，達(dá)到用戶和優(yōu)化器耦合度最低、靈活性和伸縮性最高的目的。本發(fā)明提供了一種通用的機(jī)器學(xué)習(xí)超參黑盒優(yōu)化方法及系統(tǒng)。

本發(fā)明采用以下技術(shù)方案：

一種通用的機(jī)器學(xué)習(xí)超參黑盒優(yōu)化方法及系統(tǒng)，包括：超參優(yōu)化客戶端、超參優(yōu)化服務(wù)器端、超參優(yōu)化服務(wù)門戶、學(xué)習(xí)引擎、超參推薦引擎、效果評估組件、優(yōu)化算法配置組件、自動停止組件、超參優(yōu)化控制面板，其中：

所述超參優(yōu)化客戶端用于封裝用戶機(jī)器學(xué)習(xí)過程的相關(guān)資源（包括數(shù)據(jù)、模型、算法、參數(shù)等），并提交到超參優(yōu)化服務(wù)器進(jìn)行處理；

所述超參優(yōu)化服務(wù)器端用于接收客戶端的請求，進(jìn)行超參優(yōu)化工作，同時提供一些超參優(yōu)化需要的配置項管理和模擬驗證等功能；

所述超參優(yōu)化服務(wù)門戶用于集中接收客戶端請求，根據(jù)客戶端請求的類型，使用合適的服務(wù)組件進(jìn)行處理并響應(yīng)請求；

所述學(xué)習(xí)引擎用于對用戶提交的資源進(jìn)行模擬學(xué)習(xí)；

所述超參推薦引擎用于根據(jù)模擬學(xué)習(xí)的結(jié)果進(jìn)行超參推薦；

所述效果評估組件用于對推薦的超參進(jìn)行驗證訓(xùn)練，評估其應(yīng)用效果以及性能；

所述優(yōu)化算法配置組件用于進(jìn)行超參優(yōu)化算法的配置；

所述自動停止組件用于對正在訓(xùn)練的機(jī)器學(xué)習(xí)過程進(jìn)行自動停止；

所述超參優(yōu)化控制面板用于管理包括客戶端請求情況、參數(shù)模擬評估對比可視化、模擬學(xué)習(xí)情況等信息。

優(yōu)選地，所述超參優(yōu)化客戶端還包括：用戶將需要進(jìn)行處理的請求進(jìn)行封裝，以一個機(jī)器學(xué)習(xí)超參優(yōu)化為例，用戶需要封裝兩部分信息：第一是這個機(jī)器學(xué)習(xí)的元信息，包括唯一性ID、名稱、描述、創(chuàng)建人、創(chuàng)建時間、權(quán)限等；第二是該機(jī)器學(xué)習(xí)涉及的資源，包括：訓(xùn)練數(shù)據(jù)集、訓(xùn)練管道模型（可選）、算法類型（邏輯回歸、分類等）、評估器（可選）、參數(shù)集合、參數(shù)選項（縮放比例等）。除了機(jī)器學(xué)習(xí)超參優(yōu)化外，客戶端還支持發(fā)送狀態(tài)更新、參數(shù)推薦、添加衡量指標(biāo)、結(jié)束優(yōu)化、獲取評估結(jié)果等請求。