[發明專利]用于訓練混合模型的方法和設備

在審

• 申請號: 201610201558.5
• 申請日: 2016-03-31
• 公開（公告）號: CN107292325A
• 公開（公告）日: 2017-10-24
• 發明（設計）人: 劉春辰;馮璐;衛文娟;藤卷遼平
• 申請（專利權）人: 日本電氣株式會社
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京市金杜律師事務所11256
• 代理人: 王茂華

技術領域

本公開的實施例涉及機器學習領域，并且更具體地涉及用于訓練混合模型的方法和設備。

背景技術

混合模型是一種使用混合分布的用于密度估計的概率模型，混合模型可以包括多個子模型。混合模型的示例包括但不限于高斯混合模型、分段線性混合模型，等等。這些模型已被廣泛應用于多種領域，諸如圖像分類、文檔分類、模糊圖像分割等。

混合模型的模型選擇是一個非常重要而又具有挑戰性的問題。已知的方法例如包括分解漸進貝葉斯推理(Factorized Asymptotic Bayesian Inference，FAB)等。然而，以FAB為代表的傳統混合模型訓練方法是一類批量學習算法，使其無法滿足流數據之類的新型數據模式。例如，傳統的混合模型訓練方法通常需要重復訪問全部數據集來獲得準確的學習效果，并且無法快速地發現數據集中的新的模式或概念。因此，傳統的混合模型訓練方法均無法有效地解決流數據等新型數據模式的混合模型選擇問題。

發明內容

本公開的實施例提供了一種用于訓練混合模型的方法和設備，能夠實現在流數據背景下在線訓練針混合模型。

根據本公開的一個方面，提供了一種用于訓練混合模型的方法，該混合模型包括多個子模型。該方法包括：響應于接收到流數據中的第一數據集，確定第一數據集相對于多個子模型間的第一分布；以及基于第一分布來更新用于多個子模型的模型參數。該方法還包 括：響應于接收到流數據中在第一數據集之后的第二數據集，確定第二數據集相對于多個子模型間的第二分布；以及基于第二分布來更新用于多個子模型的模型參數。

根據本公開的另一方面，提供了一種用于訓練混合模型的設備，該混合模型包括多個子模型。該設備包括至少一個存儲單元和至少一個處理單元，該至少一個處理單元耦合到所述至少一個存儲單元并且被配置為：響應于接收到流數據中的第一數據集，確定第一數據集相對于多個子模型間的第一分布；以及基于第一分布來更新用于多個子模型的模型參數。該至少一個處理單元還被配置為：響應于接收到流數據中在第一數據集之后的第二數據集，確定第二數據集相對于多個子模型間的第二分布；以及基于第二分布來更新用于多個子模型的模型參數。

根據本公開的又一方面，提供了一種計算機可讀存儲介質。該計算機可讀存儲介質具有存儲在其上的計算機可讀程序指令。這些計算機可讀程序指令可以用于執行根據本公開中的各個實施例所描述的方法的步驟。

提供發明內容部分是為了簡化的形式來介紹對概念的選擇，它們在下文的具體實施方式中將被進一步描述。發明內容部分無意標識本公開的關鍵特征或主要特征，也無意限制本公開的各個實施例的范圍。

附圖說明

通過結合附圖對本公開示例性實施例進行更詳細的描述，本公開的上述以及其它目的、特征和優勢將變得更加明顯，其中，在本公開示例性實施例中，相同的參考標號通常代表相同部件。

圖1示出了根據本公開的實施例的用于訓練混合模型的架構100的框圖；

圖2示出了根據本公開的實施例的用于訓練混合模型的方法200的流程圖；

圖3示出了根據本公開的實施例的用于迭代地更新模型參數的方法300的流程圖；

圖4示出了根據本公開的實施例的用于擴展混合模型的方法400的流程圖；以及

圖5示出了可以用來實施本公開的實施例的示例設備500的示意性框圖。

具體實施例

下面將參照附圖更詳細地描述本公開的優選實施例。雖然附圖中顯示了本公開的優選實施例，然而應該理解，可以以各種形式實現本公開而不應被這里闡述的實施例所限制。相反，提供這些實施例是為了使本公開更加透徹和完整，并且能夠將本公開的范圍完整地傳達給本領域的技術人員。

在本文中使用的術語“包括”及其變形表示開放性包括，即“包括但不限于”。除非特別申明，術語“或”表示“和/或”。術語“基于”表示“至少部分地基于”。術語“一個示例實施例”和“一個實施例”表示“至少一個示例實施例”。術語“另一實施例”表示“至少一個另外的實施例”。術語“第一”、“第二”等可以指代不同的或相同的對象。下文還可能包括其他明確的和隱含的定義。