[發明專利]基于深度子空間自表達的多標簽分類方法有效
| 申請號: | 202010614744.8 | 申請日: | 2020-06-30 |
| 公開(公告)號: | CN111860614B | 公開(公告)日: | 2023-09-19 |
| 發明(設計)人: | 楊博 | 申請(專利權)人: | 西安工程大學 |
| 主分類號: | G06F18/241 | 分類號: | G06F18/241;G06F18/2431;G06F18/10;G06N3/0455;G06N3/082 |
| 代理公司: | 西安弘理專利事務所 61214 | 代理人: | 弓長 |
| 地址: | 710048 陜*** | 國省代碼: | 陜西;61 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 基于 深度 空間 表達 標簽 分類 方法 | ||
1.基于深度子空間自表達的多標簽分類方法,為圖像識別提供方法支持,其特征在于,具體按照如下步驟實施:
步驟1,預訓練自動編碼器神經網絡
讀取多標簽數據并進行預處理,使用深度自動編碼器神經網絡,以數據重構為目標,以經預處理的多標簽數據作為輸入數據,對輸入數據進行訓練獲得網絡參數的初始值;
步驟2,訓練深度子空間自表達神經網絡
構建深度子空間自表達神經網絡,以步驟1預訓練的結果權值作為初始值賦值于深度子空間自表達神經網絡,以數據重構誤差、線性層的權值稀疏度以及稀疏表示的重構誤差最小化為目標進行訓練,訓練深度子空間自表達神經網絡;
步驟3,將經步驟2訓練好的深度子空間自表達神經網絡中的第三層自表達層參數取出,獲得數據間相似關系的實數值表示;
步驟4,構建深層全連接分類網絡,利用數據的相似關系與訓練數據的二值標簽構建數據的實數值預測標簽,并以此實數值標簽為輸入,真實的二值標簽為輸出,訓練深層全連接分類網絡,直到達到終止條件;
所述深度子空間自表達神經網絡的結構為:前兩層為全連接層,第三層為自表達層,第三層中的響應函數為線性函數;第四、五層為全連接層;
深度子空間自表達網絡的訓練過程為:
所述深度子空間自表達神經網絡的第一、二、四、五層的網絡參數初始化為步驟1保存的深度自動編碼器神經網絡的權值,隨機賦值給第三層,以如下目標進行訓練:
求解上述公式獲得通過學習得到的網絡參數的最優值,其中,表示通過深度子空間自表達神經網絡后的重構數據,表示網絡參數,包含編碼參數、自表達層參數,表示輸入數據,表示輸入數據經過神經網絡的編碼層后的輸出數據,表示Frobenius?范數,表示取矩陣的主對角線元素操作,與為平衡參數;
所述步驟3中將訓練好的深度子空間自表達神經網絡中的第三層自表達層參數取出,獲得數據間相似關系的實數值表示具體為:
通過步驟2訓練完成的深度子空間自表達神經網絡所有參數的值后,讀取網絡自表達層,即第三層的參數,為矩陣,其中,第三層中結點i與結點j之間連接的權值表示為,即就是矩陣中第i行、第j列的元素值,數據間的相似關系采用矩陣表示,數據i與數據j之間的相似度,即就是數據i與數據j的相似關系的實數值用矩陣的第i行、第j列的元素值表示,矩陣的通過計算獲得,即將矩陣中的第i行,第j列的元素值賦值為,其中表示絕對值函數,為第三層中結點j與結點i之間連接的權值。
2.根據權利要求1所述的基于深度子空間自表達的多標簽分類方法,其特征在于,所述步驟1中讀取多標簽數據并進行預處理具體為:
忽視數據標簽僅讀取數據特征,將缺失特征的數據剔除,然后對多標簽數據進行歸一化處理,以進行歸一化處理的多標簽數據作為輸入數據,即就是訓練數據,用表示經歸一化處理的多標簽數據的集合,表示由個標簽組成的標簽空間,表示訓練數據集合,其中,為數據特征向量,為數據的標簽集合,表示維特征空間。
3.根據權利要求2所述的基于深度子空間自表達的多標簽分類方法,其特征在于,所述步驟1中的深度自動編碼器神經網絡為具有輸入結點數、輸出結點數與訓練數據特征維數相同的網絡結構,所述深度自動編碼器神經網絡具有四個全連接層,目標函數為最小化重構誤差,即,其中,表示輸入數據,表示輸出數據,表示Frobenius?范數。
4.根據權利要求3所述的基于深度子空間自表達的多標簽分類方法,其特征在于,所述預訓練深度自動編碼器神經網絡的步驟為:
將訓練數據的數據特征輸入至未經訓練的深度自動編碼器神經網絡中,然后以最小數據重構誤差為目標,在GPU上進行訓練,采用隨機梯度下降方法進行求解,待訓練達到終止條件后,保存深度自動編碼器神經網絡的權值。
5.根據權利要求1所述的基于深度子空間自表達的多標簽分類方法,其特征在于,所述步驟4中利用數據的相似關系與訓練數據的二值標簽構建數據的實數值預測標簽,具體為利用如下公式計算實數值預測標簽:
其中,為表示數據i與數據j相似關系的相似度,為訓練數據的二值標簽,為的實數值預測標簽。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于西安工程大學,未經西安工程大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010614744.8/1.html,轉載請聲明來源鉆瓜專利網。





