[發明專利]機器學習模型生成方法和裝置

有效

• 申請號: 201610192139.X
• 申請日: 2016-03-30
• 公開（公告）號: CN105912500B
• 公開（公告）日: 2017-11-14
• 發明（設計）人: 詹志征;劉志強;沈志勇
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: G06F15/18
• 分類號: G06F15/18;G06N99/00
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司11204
• 代理人: 王達佐,馬曉亞

1.一種機器學習模型生成方法，其特征在于，所述方法包括：

生成模型參數組合，以及生成對應于每一個模型參數組合的機器學習模型，其中，模型參數指示機器學習模型的輸入向量與輸出向量之間的關聯關系；

執行劃分操作：將預設機器學習用數據劃分為訓練數據和驗證數據，將預設機器學習用數據劃分為訓練數據和驗證數據包括：從多個預設子集中選取一個子集的預設機器學習用數據作為驗證數據，以及將其他子集中的預設機器學習用數據作為訓練數據，其中，所述預設子集為將預設機器學習用數據劃分而得到的多個包含的預設機器學習用數據的個數相等的集合；

執行訓練與驗證操作：并行地分別基于所述訓練數據對每一個機器學習模型進行訓練；分別基于驗證數據對每一個訓練后的機器學習模型學習的準確率進行驗證，得到驗證分數，所述驗證分數指示機器學習模型基于所述驗證數據而輸出的輸出向量對應的數據類型與驗證數據的數據類型一致的比率；

執行模型生成操作：基于驗證分數，確定待生成的機器學習模型對應的最優模型參數組合，以及生成對應于所述最優模型參數組合的機器學習模型。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

利用分布式計算框架Hadoop的Map-Reduce模型中的Map任務執行訓練與驗證操作，利用分布式計算框架Hadoop的Map-Reduce模型中的Reduce任務執行模型生成操作。

3.根據權利要求1所述的方法，其特征在于，劃分操作和訓練與驗證操作均被執行多次，所述訓練數據為每一次劃分操作而劃分出的訓練數據，所述驗證數據為每一次劃分操作而劃分出的驗證數據；以及

并行地分別基于所述訓練數據對每一個機器學習模型進行訓練包括：

基于每一次劃分操作而劃分出的訓練數據，對機器學習模型進行訓練；

分別基于驗證數據對每一個訓練后的機器學習模型學習的準確率進行驗證，得到驗證分數包括：

基于每一次劃分操作而劃分出的驗證數據，對每一次訓練后的所述機器學習模型學習的準確率進行驗證，得到多個驗證分數。

4.根據權利要求3所述的方法，其特征在于，基于驗證分數，確定待生成的機器學習模型對應的最優模型參數組合包括：

分別計算每一個機器學習模型對應的多個驗證分數的平均參數值；

將所述平均參數值作為參考模型參數值；

基于所述參考模型參數值，確定待生成的機器學習模型對應的最優模型參數組合。

5.一種機器學習模型生成裝置，其特征在于，所述裝置包括：

生成單元，配置用于生成模型參數組合，以及生成對應于每一個模型參數組合的機器學習模型，其中，模型參數指示機器學習模型的輸入向量與輸出向量之間的關聯關系；

劃分單元，配置用于執行劃分操作：將預設機器學習用數據劃分為訓練數據和驗證數據，所述劃分單元包括：選取子單元，配置用于從多個預設子集中選取一個子集的預設機器學習用數據作為驗證數據，以及將其他子集中的預設機器學習用數據作為訓練數據，其中，所述預設子集為將預設機器學習用數據劃分而得到的多個包含的預設機器學習用數據的個數相等的集合；

處理單元，配置用于執行訓練與驗證操作：并行地分別基于所述訓練數據對每一個機器學習模型進行訓練；分別基于驗證數據對每一個訓練后的機器學習模型學習的準確率進行驗證，得到驗證分數，所述驗證分數指示機器學習模型基于所述驗證數據而輸出的輸出向量對應的數據類型與驗證數據的數據類型一致的比率；

執行單元，配置用于執行模型生成操作：基于驗證分數，確定待生成的機器學習模型對應的最優模型參數組合，以及生成對應于所述最優模型參數組合的機器學習模型。

6.根據權利要求5所述的裝置，其特征在于，所述裝置還包括：

分布式處理單元，配置用于利用分布式計算框架Hadoop的Map-Reduce模型中的Map任務執行訓練與驗證操作，利用分布式計算框架Hadoop的Map-Reduce模型中的Reduce任務執行模型生成操作。