[發(fā)明專利]基于流形學(xué)習(xí)和梯度提升模型的圖片偏多標(biāo)簽分類方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010023677.2
• 申請(qǐng)日: 2020-01-09
• 公開（公告）號(hào): CN111259938B
• 公開（公告）日: 2022-04-12
• 發(fā)明（設(shè)計(jì)）人: 陳剛;強(qiáng)宇周;王皓波;諶晨;陳珂;胡天磊;壽黎但;伍賽
• 申請(qǐng)（專利權(quán)）人: 浙江大學(xué)
• 主分類號(hào): G06V10/764
• 分類號(hào): G06V10/764;G06K9/62
• 代理公司: 杭州求是專利事務(wù)所有限公司 33200
• 代理人: 林超

1.一種基于流形學(xué)習(xí)和梯度提升模型的圖片偏多標(biāo)簽分類方法，其特征在于：方法包括：

第一階段，包括步驟1和步驟2：

步驟1：

首先從訓(xùn)練數(shù)據(jù)集中構(gòu)建一個(gè)加權(quán)圖其中，V代表圖片特征向量的集合，V＝{x_i|1≤i≤n}，x_i表示第i個(gè)圖片的特征向量，i表示圖片的序數(shù)，n表示訓(xùn)練數(shù)據(jù)集中圖片的總數(shù)；E代表每兩個(gè)圖片之間的連接關(guān)系的集合，E＝{(x_i,x_j)|i≠j,x_j∈kNN(x_i)}，kNN(x_i)表示到第i個(gè)圖片的特征向量x_i距離最近的前k個(gè)圖片的特征向量的集合，(x_i,x_j)表示第j個(gè)圖片和第i個(gè)圖片具有連接關(guān)系；W為非負(fù)權(quán)重矩陣，W＝[w_ij]_n×n，其中w_ij表示第j個(gè)圖片對(duì)第i個(gè)圖片的權(quán)重；

對(duì)每個(gè)圖片的特征向量x_i，被其他圖片的特征向量線性重建∑_j≠iw_ijx_j，獲得線性重建誤差：

其中，β是正則化項(xiàng)的權(quán)衡參數(shù)，||·||₂表示二范數(shù)；

利用約束最小二乘規(guī)劃方法來最小化線性重建誤差ε(W)建立以下第一最小化模型：

其中，w_j是W的第j列向量，G^j表示w_j對(duì)應(yīng)的n行n列的格萊姆矩陣，其中G^j的第a行第b列元素為(x_j-x_a)′(x_j-x_b)，使用v′表示某向量v的轉(zhuǎn)置；

通過求解以上第一最小化模型獲得非負(fù)權(quán)重矩陣W；

步驟2：根據(jù)加權(quán)圖建立以下第二最小化模型，并求解獲得重構(gòu)標(biāo)簽矩陣作為置信度矩陣，再求解以上第二最小化模型獲得重構(gòu)標(biāo)簽矩陣U：

其中，U是重構(gòu)標(biāo)簽矩陣，U＝[u₁,u₂,…,u_n]＝[u_di]_l×n，d表示標(biāo)簽的序數(shù)，l表示標(biāo)簽的總數(shù)，u₁,u₂,...,u_n分別表示重構(gòu)標(biāo)簽矩陣的第1列、第2列、…、第n列，u_di表示重構(gòu)標(biāo)簽矩陣的第d行第i列的元素，y_d表示第d個(gè)標(biāo)簽，Y_i表示第i個(gè)圖片中多個(gè)實(shí)物物體對(duì)應(yīng)的標(biāo)簽集合，δ₁和δ₂分別表示下限閾值和上限閾值；

第二階段，包括步驟3和步驟4：

步驟3：首先根據(jù)重構(gòu)標(biāo)簽矩陣U將訓(xùn)練數(shù)據(jù)集轉(zhuǎn)換構(gòu)造為重構(gòu)數(shù)據(jù)集再由重構(gòu)數(shù)據(jù)集中訓(xùn)練一個(gè)二值相關(guān)模型f₀；

然后用訓(xùn)練好的二值相關(guān)模型f₀對(duì)于圖片的特征向量矩陣X進(jìn)行預(yù)測處理得到一個(gè)標(biāo)簽矩陣f₀(X)，其中，X是特征向量矩陣；

步驟4：

針對(duì)特征向量矩陣X建立一個(gè)回歸器F，由回歸器F構(gòu)建以下?lián)p失函數(shù)并進(jìn)行最小化求解：

其中，是Frobenius范數(shù)，Ω(F)表示回歸器F的正則項(xiàng)，能夠控制回歸器F的復(fù)雜度，F(xiàn)(X)表示回歸器F的預(yù)測結(jié)果矩陣，

為了找到最優(yōu)解，采用聚合模型作為回歸器F，將一組弱回歸器添加到二值相關(guān)模型形成回歸器F；在回歸器F的第t次迭代，計(jì)算在F(X)＝F_t-1(X)處，損失函數(shù)對(duì)F(X)的負(fù)梯度矩陣R^t：

其中，F(xiàn)_t-1(X)表示回歸器F中第t-1次迭代的預(yù)測結(jié)果矩陣，分別表示第t-1次迭代的預(yù)測結(jié)果矩陣F_t-1(X)的第1列、第2列、…、第n列，分別表示第t次迭代下負(fù)梯度矩陣R^t的第1列、第2列、…、第n列；

接著利用回歸器F的第t-1次迭代的預(yù)測結(jié)果矩陣進(jìn)一步增強(qiáng)特征向量矩陣X，同時(shí)結(jié)合負(fù)梯度矩陣R^t構(gòu)造以下第t次迭代的數(shù)據(jù)集

其中，表示第t次迭代第i個(gè)圖片增強(qiáng)后的特征向量；

然后利用數(shù)據(jù)集進(jìn)行訓(xùn)練學(xué)習(xí)獲得一個(gè)弱回歸器f_t，通過求和所有的弱回歸器，獲得最終魯棒的回歸器F：

其中，T是迭代的輪次，Ω′(f_t)表示控制第t次迭代的弱回歸器f_t復(fù)雜度的正則化項(xiàng)，λ和γ分別是學(xué)習(xí)率和正則化項(xiàng)超參數(shù)，Ω(F)表示控制回歸器F復(fù)雜度的正則化項(xiàng)；

步驟5：

對(duì)于一個(gè)預(yù)待測圖片的特征向量x^*，輸入到步驟4獲得的回歸器F中輸出預(yù)測獲得實(shí)數(shù)值的標(biāo)簽向量u*，根據(jù)標(biāo)簽向量u*判斷：若標(biāo)簽向量u*中的第d個(gè)元素大于0，則圖片中有第d個(gè)標(biāo)簽對(duì)應(yīng)的實(shí)物物體存在；若標(biāo)簽向量u*中的第d個(gè)元素小于等于0，則圖片中有第d個(gè)標(biāo)簽對(duì)應(yīng)的實(shí)物物體不存在。