[發明專利]基于變分自編碼器的聚類方法和裝置

在審

• 申請號: 202011206103.5
• 申請日: 2020-11-02
• 公開（公告）號: CN112488148A
• 公開（公告）日: 2021-03-12
• 發明（設計）人: 裴丹;李之涵
• 申請（專利權）人: 清華大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京清亦華知識產權代理事務所(普通合伙) 11201
• 代理人: 張大威

本申請公開了一種基于變分自編碼器的聚類方法和裝置，其中，方法包括：獲取輸入數據x；將輸入數據x，結合變分自編碼器，獲取對應的離散類別隱變量y及連續高斯隱變量z；將輸入數據x、離散類別隱變量y以及連續高斯隱變量z，結合變分自編碼器，獲取對應的聯合概率分布q(z,y|x)；利用變分自編碼器對聯合概率分布q(z,y|x)進行直接分解，根據離散類別隱變量y的概率分布，確定輸入數據x的類別。該方法在變分自編碼器的基礎上進行改進，舍棄平均場近似，采用直接分解聯合概率分布獲取離散類別隱變量的概率分布，進而確定輸入數據的類別，提高了聚類效果和準確度。

相關申請的交叉引用

本申請要求清華大學于2020年10月27日提交的、申請名稱為“基于變分自編碼器的聚類方法和裝置”的、中國專利申請號“202011165489.X”的優先權。

技術領域

本申請涉及深度學習技術領域，尤其涉及一種基于變分自編碼器的聚類方法和裝置。

背景技術

目前，無監督聚類廣泛應用于多種實際領域，比如，圖像或圖像特征的聚類。相關技術中，通過變分自編碼器模型實現數據聚類，比如，LTVAE通過使用隱變量上的樹模型貪心的學習隱變量之間的樹形結構，據此構成的復雜先驗約束變分自編碼器模型進行聚類；GMVAE、VaDE均使用平均場近似處理隱變量之間的關系以實現數據聚類。但是，LTVAE采用復雜的樹模型迭代式的優化其隱變量之間的結構關系，聚類性能差，GMVAE、VaDE采用平均場近似，但該近似在實際數據中不一定成立，導致聚類準確度較低。

發明內容

本申請提出一種基于變分自編碼器的聚類方法和裝置，該方法在變分自編碼器的基礎上進行改進，舍棄平均場近似，采用直接分解聯合概率分布獲取離散類別隱變量的概率分布，進而確定輸入數據的類別，提高了聚類效果和準確度。

本申請第一方面實施例提出了一種基于變分自編碼器的聚類方法，包括：獲取輸入數據x；根據所述輸入數據x，結合變分自編碼器，獲取對應的離散類別隱變量y及連續高斯隱變量z；將所述輸入數據x、所述離散類別隱變量y以及所述連續高斯隱變量z，結合所述變分自編碼器，獲取對應的聯合概率分布q(z,y|x)；利用所述變分自編碼器對所述聯合概率分布q(z,y|x)進行直接分解，根據所述離散類別隱變量y的概率分布，確定所述輸入數據x的類別。

本申請實施例的基于變分自編碼器的聚類方法，通過獲取輸入數據x；根據所述輸入數據x，結合變分自編碼器，獲取對應的離散類別隱變量y及連續高斯隱變量z；將所述輸入數據x、所述離散類別隱變量y以及所述連續高斯隱變量z，結合變分自編碼器，獲取對應的聯合概率分布q(z,y|x)；利用所述變分自編碼器對所述聯合概率分布q(z,y|x)進行直接分解，根據所述離散類別隱變量y的概率分布，確定所述輸入數據x的類別。該方法在變分自編碼器的基礎上進行改進，舍棄平均場近似，采用直接分解聯合概率分布獲取離散類別隱變量的概率分布，進而確定輸入數據的類別，提高了聚類效果和準確度。

本申請第二方面實施例提出了一種基于變分自編碼器的聚類裝置，包括：第一獲取模塊，用于獲取輸入數據x；第二獲取模塊，用于將所述輸入數據x，結合變分自編碼器，獲取對應的離散類別隱變量y及連續高斯隱變量z；第三獲取模塊，用于將所述輸入數據x、所述離散類別隱變量y以及所述連續高斯隱變量z，結合變分自編碼器，獲取對應的聯合概率分布q(z,y|x)；聚類模塊，用于利用所述變分自編碼器對所述聯合概率概率分布q(z,y|x)進行直接分解，根據所述離散類別隱變量y的概率分布，確定所述輸入數據x的類別。