[發明專利]用于訓練混合模型的方法和設備

有效

• 申請號: 201610201154.6
• 申請日: 2016-03-31
• 公開（公告）號: CN107292323B
• 公開（公告）日: 2023-09-19
• 發明（設計）人: 劉春辰;馮璐;衛文娟;藤卷遼平
• 申請（專利權）人: 日本電氣株式會社
• 主分類號: G06V10/774
• 分類號: G06V10/774
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華

本公開的實施例涉及用于訓練混合模型的方法和設備。該混合模型包括多個子模型。該方法包括：響應于接收到第一數據集，確定第一數據集相對于多個子模型的第一分布。該方法還包括：迭代執行以下操作至少一次，直至收斂條件被滿足：基于第一分布，降低多個子模型中的第一子模型的第一子空間維度；以及基于降低后的第一子空間維度，更新第一分布。本公開的實施例能夠實現自動學習用于降維的混合模型。

技術領域

本公開的實施例涉及機器學習領域，并且更具體地涉及用于訓練混合模型的方法和設備。

背景技術

混合模型是一種使用混合分布的用于密度估計的概率模型，混合模型可以包括多個子模型。混合模型的示例包括但不限于高斯混合模型、分段線性混合模型，等等。這些模型已被廣泛應用于多種領域，諸如圖像分類、文檔分類、模糊圖像分割等。

數據降維(Dimensionality?Reduction)是指通過線性或非線性映射將高維空間中的數據映射到低維空間中，從而獲得高維數據的低維表示，數據降維能夠減少原始數據的冗余性。在機器學習領域中，常見的數據降維方式包括主成分分析(PrincipalComponent?Analysis，PCA)、線性判別分析(Linear?Discriminant?Analysis，LDA)、局部線性嵌入(Locally?Linear?Embedding，LLE)、拉普拉斯特征映射(Laplacian?Eigenmaps)，等等。

混合概率主成分分析(Mixtures?of?Probabilistic?Principle?ComponentAnalyzers，MPPCA)是一種適用于大規模數據的降維方法。MPPCA方法例如可以應用到數據壓縮、圖像分析、時間序列預測、異常點檢測，等等。MPPCA方法通常需要采用交叉驗證的組合循環或者利用先驗分布來估計混合模型中的每個子模型的子空間維度。

發明內容

本公開的實施例提供了一種用于訓練混合模型的方法和設備，能夠實現自動學習用于降維的混合模型。

根據本公開的一個方面，提供了一種用于訓練混合模型的方法，該混合模型包括多個子模型。該方法包括：響應于接收到第一數據集，確定第一數據集相對于多個子模型的第一分布。該方法還包括：迭代執行以下操作至少一次，直至收斂條件被滿足：基于第一分布，降低多個子模型中的第一子模型的第一子空間維度；以及基于降低后的第一子空間維度，更新第一分布。

根據本公開的另一方面，提供了一種用于訓練混合模型的設備，該混合模型包括多個子模型。該設備包括至少一個處理單元，其被配置為：響應于接收到第一數據集，確定第一數據集相對于多個子模型的第一分布；以及迭代執行以下操作至少一次，直至收斂條件被滿足：基于第一分布，降低多個子模型中的第一子模型的第一子空間維度；以及基于降低后的第一子空間維度，更新第一分布。

根據本公開的又一方面，提供了一種計算機可讀存儲介質。該計算機可讀存儲介質具有存儲在其上的計算機可讀程序指令。這些計算機可讀程序指令可以用于執行根據本公開中的各個實施例所描述的方法的步驟。

提供發明內容部分是為了簡化的形式來介紹對概念的選擇，它們在下文的具體實施方式中將被進一步描述。發明內容部分無意標識本公開的關鍵特征或主要特征，也無意限制本公開的各個實施例的范圍。

附圖說明

通過結合附圖對本公開示例性實施例進行更詳細的描述，本公開的上述以及其它目的、特征和優勢將變得更加明顯，其中，在本公開示例性實施例中，相同的參考標號通常代表相同部件。

圖1示出了根據本公開的實施例的用于訓練混合模型的架構100的框圖；

圖2示出了根據本公開的實施例的用于訓練混合模型的方法200的流程圖；

圖3示出了根據本公開的實施例的用于訓練針對數據流的混合模型的方法300的流程圖；以及