[發明專利]一種結合分歧融合決策的半監督分類方法

在審

• 申請號: 202110641141.1
• 申請日: 2021-06-09
• 公開（公告）號: CN113283531A
• 公開（公告）日: 2021-08-20
• 發明（設計）人: 袁華;甘玉婉;莫建文
• 申請（專利權）人: 桂林電子科技大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N20/20
• 代理公司: 桂林市華杰專利商標事務所有限責任公司 45112
• 代理人: 陸夢云

本發明公開了一種結合分歧融合決策的半監督分類方法，其特征在于，包括如下步驟：1）模型初始化；2）預測偽標簽和置信度；3）基于分歧的融合決策規則，篩選出高置信偽標記樣本并計算相應的權重；4）將高置信樣本加入原始有標記樣本集，擴充訓練集；5）動態重加權；6）重復步驟2）至步驟5），直至模型收斂。這種方法在提升模型分類精度的同時，有效地緩解了過擬合問題，提升模型泛化性能。

技術領域

本發明涉及數字圖像處理技術領域，具體是一種結合分歧融合決策的半監督分類方法。

背景技術

半監督分類是機器學習領域中的重要研究內容。在很多實際任務中，獲取數量較多的有標記樣本往往需要耗費大量的人力物力，半監督學習能夠通過大量的未標記樣本提升學習性能，因而受到廣泛關注。早期的半監督學習代表性方法包括半監督支持向量機、圖論半監督學習算法，由于早期的半監督學習代表性方法存在求解難度較大的缺點，很難在實際中應用。

隨著深度學習的興起，有標記樣本數量不足成為制約深度學習發展的瓶頸。針對不同的應用場景，研究者們陸續提出了各種解決辦法。Chai等提出了基于稀疏正則的半監督自編碼器，通過激活少數重要神經元和標簽約束提取更局部化的信息和更豐富的特征，達到了更好的圖像識別效果；周建宇等針對有標記數據難以獲取、模型泛化能力較弱的問題，利用半監督聚類算法對電離層雜波進行分類，由此可見，半監督深度學習算法在人們的日常生活中發揮著越來越重要的作用，迅速成為學術界的研究熱點。

為了充分利用大量的未標記樣本，基于偽標記的半監督學習方法逐漸成為主流。Wu等提出了改進的半監督自訓練方法，通過尋找密度峰值數據，將整個數據空間的真實結構整合到自訓練過程中，迭代訓練分類器；Li等將未標記樣本和有標記樣本作為最優路徑森林的頂點相互連接，利用特征空間的結構和分布，幫助自訓練法給未標記數據貼標簽，來指導自訓練方法訓練分類器；Gu等提出了一種基于自訓練層次原型的半監督分類方法，在多個粒度層次上從有標記樣本中識別出有意義的原型，利用偽標簽技術，從未標記樣本中識別新模式，挖掘關鍵信息用于分類；Tencer等提出了一種新的混合技術，通過結合主動學習方法來確定測試集樣本中分類器的可信度，擴展了半監督技術中自訓練和幫助訓練的概念；He等提出了基于信念函數的半監督學習方法，采用信念模型對未標記數據進行標記，能夠有效地利用有限的監督信息來促進分類過程；董立巖等提出改進的半監督樸素貝葉斯算法，利用高置信偽標記樣本擴充數據集，從而更加準確和快速的對測試集做出預測；Mandal對訓練數據中未標記部分的標簽進行預測，然后學習多模態共同表示，以進行跨模態檢索；Zhou等結合深度網絡和三訓練法，利用其中兩個分類器生成的偽標簽訓練第三個分類器，直到三個分類器全部收斂。

上述基于偽標記的半監督分類方法，由于有標記樣本數量有限，容易導致過擬合，出現預測錯誤的偽標簽，而分類器難以察覺到自身的錯誤。因此，利用不同分類器之間的分歧則是查找偽標簽錯誤的關鍵。

發明內容

本發明的目的是針對現有技術的不足，而提供一種結合分歧融合決策的半監督分類方法。這種方法采用基于分歧的融合決策規則，將每個分類器預測值之間的分歧進行量化，能夠評估偽標簽的置信度，用篩選出的高置信樣本集擴充訓練集、采用mixup數據增強與一致正則技術，對每個分類器進行動態重加權訓練和一致性正則化，能緩解過擬合問題、提升模型泛化性能、提高偽標記樣本的可靠性。

實現本發明目的的技術方案是：

一種結合分歧融合決策的半監督分類方法，與現有技術不同的是，包括如下步驟：