[發(fā)明專利]自動集成機器學(xué)習(xí)的方法、裝置、介質(zhì)及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 202010982700.0
• 申請日: 2020-09-17
• 公開（公告）號: CN112116104A
• 公開（公告）日: 2020-12-22
• 發(fā)明（設(shè)計）人: 夏曉華;王美青;呂軍;程建波
• 申請（專利權(quán)）人: 京東數(shù)字科技控股股份有限公司
• 主分類號: G06N20/20
• 分類號: G06N20/20
• 代理公司: 北京律智知識產(chǎn)權(quán)代理有限公司 11438
• 代理人: 孫寶海;袁禮君

1.一種自動集成機器學(xué)習(xí)的方法，其特征在于，所述方法包括以下步驟：

步驟S1:獲取預(yù)配置的至少兩個機器學(xué)習(xí)模型、各個所述機器學(xué)習(xí)模型的超參數(shù)搜索空間、集成算法以及所述集成算法的集成算法參數(shù)組，其中，所述集成算法參數(shù)組包括至少一個集成算法參數(shù)；

步驟S2:將在所述超參數(shù)搜索空間的范圍內(nèi)選擇的第一超參數(shù)輸入到各個所述機器學(xué)習(xí)模型中；

步驟S3:根據(jù)所述集成算法以及所述集成算法參數(shù)組中的第一集成算法參數(shù)將所述至少兩個機器學(xué)習(xí)模型進行集成，生成第一集成模型；

步驟S4:對所述第一集成模型進行訓(xùn)練和模型評分，得到評分結(jié)果；

步驟S5:以依次執(zhí)行的步驟S2、步驟S3、步驟S4作為一個循環(huán)，在重復(fù)執(zhí)行所述循環(huán)后，根據(jù)各個所述循環(huán)的評分結(jié)果確定目標集成模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述步驟S3包括：

根據(jù)以下任一種集成算法將所述至少兩個機器學(xué)習(xí)模型進行集成：

堆疊集成算法、裝袋集成算法和提升集成算法。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述步驟S1之前，所述方法還包括：

生成json格式的配置文件，所述配置文件包括所述至少兩個機器學(xué)習(xí)模型、各個所述機器學(xué)習(xí)模型的超參數(shù)搜索空間、至少兩個所述集成算法以及各個所述集成算法的集成算法參數(shù)組。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述目標集成模型包括最優(yōu)超參數(shù)和最優(yōu)集成算法參數(shù)，所述根據(jù)各個所述循環(huán)的評分結(jié)果確定目標集成模型，包括：

根據(jù)各個所述循環(huán)的評分結(jié)果和所述循環(huán)執(zhí)行的次數(shù)確定目標集成模型。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述步驟S4之后，所述方法還包括：

根據(jù)所述評分結(jié)果和優(yōu)化算法選取下一個所述循環(huán)的超參數(shù)和集成算法參數(shù)。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述機器學(xué)習(xí)模型來源于以下任一種機器學(xué)習(xí)框架：

Tensorflow符號數(shù)學(xué)系統(tǒng)、pytorch深度學(xué)習(xí)框架、sklearn機器學(xué)習(xí)語言庫。

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述機器學(xué)習(xí)模型具有權(quán)重參數(shù)，所述方法還包括：

根據(jù)各個所述機器學(xué)習(xí)模型的所述權(quán)重參數(shù)確定集成過程中各個所述機器學(xué)習(xí)模型的權(quán)重。

8.一種自動集成機器學(xué)習(xí)的裝置，其特征在于，所述裝置包括：

獲取單元，用于獲取預(yù)配置的至少兩個機器學(xué)習(xí)模型、各個所述機器學(xué)習(xí)模型的超參數(shù)搜索空間、集成算法以及所述集成算法的集成算法參數(shù)組，其中，所述集成算法參數(shù)組包括至少一個集成算法參數(shù)；

參數(shù)輸入單元，用于將在所述超參數(shù)搜索空間的范圍內(nèi)選擇的第一超參數(shù)輸入到各個所述機器學(xué)習(xí)模型中；

集成單元，用于根據(jù)集成算法以及所述集成算法參數(shù)組中的第一集成算法參數(shù)將所述至少兩個機器學(xué)習(xí)模型進行集成，生成第一集成模型；

訓(xùn)練評分單元，用于對所述第一集成模型進行訓(xùn)練和模型評分，得到評分結(jié)果；

擇優(yōu)單元，用于在所述輸入單元、所述集成單元、所述訓(xùn)練評分單元重復(fù)依次進行輸入、集成、訓(xùn)練和評分操作的循環(huán)后，根據(jù)各個所述循環(huán)的評分結(jié)果確定目標集成模型。

9.一種計算機可讀存儲介質(zhì)，其上存儲有計算機程序，其特征在于，所述程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7中任一項所述的自動集成機器學(xué)習(xí)的方法。

10.一種電子設(shè)備，其特征在于，包括：

一個或若干處理器；

存儲裝置，用于存儲一個或若干程序，當所述一個或若干程序被所述一個或若干處理器執(zhí)行時，使得所述一個或若干處理器實現(xiàn)如權(quán)利要求1至7中任一項所述的自動集成機器學(xué)習(xí)的方法。