[發(fā)明專利]一種基于圖像標(biāo)記特定特征的延遲多標(biāo)記學(xué)習(xí)方法

在審

• 申請?zhí)枺?/td>: 201911268772.2
• 申請日: 2019-12-11
• 公開（公告）號: CN111144454A
• 公開（公告）日: 2020-05-12
• 發(fā)明（設(shè)計(jì)）人: 許鵬;李永
• 申請（專利權(quán)）人: 北京工業(yè)大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N20/00
• 代理公司: 北京思海天達(dá)知識產(chǎn)權(quán)代理有限公司 11203
• 代理人: 沈波

本發(fā)明公開了一種基于圖像標(biāo)記特定特征的延遲多標(biāo)記學(xué)習(xí)方法，屬于機(jī)器學(xué)習(xí)領(lǐng)域的多標(biāo)記學(xué)習(xí)技術(shù)。步驟1：對原始數(shù)據(jù)集進(jìn)行劃分，將原始數(shù)據(jù)集分為訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集。步驟2：對訓(xùn)練數(shù)據(jù)集進(jìn)行標(biāo)記特征提取，構(gòu)建標(biāo)記特征空間。步驟3：訓(xùn)練模型；步驟4：采用算法對公開酵母數(shù)據(jù)集Yeast Dataset進(jìn)行模型的訓(xùn)練預(yù)測，并與步驟3的結(jié)果對比。本方法以公開數(shù)據(jù)集相關(guān)數(shù)據(jù)為基礎(chǔ)，相關(guān)模型建立均是基于數(shù)據(jù)分析比較進(jìn)行的，最終得到的模型也是服務(wù)于數(shù)據(jù)的比對，整個技術(shù)方案是能夠有效實(shí)施的，本方法能夠大大提高標(biāo)記預(yù)測能力，在預(yù)測效果和模型的穩(wěn)定性方面比一般的多標(biāo)記學(xué)習(xí)算法有優(yōu)勢。

技術(shù)領(lǐng)域

本發(fā)明屬于機(jī)器學(xué)習(xí)領(lǐng)域的多標(biāo)記學(xué)習(xí)技術(shù)，涉及一種圖像標(biāo)記預(yù)測模型構(gòu)建的方法，特別是關(guān)于一種基于圖像標(biāo)記特定特征的延遲多標(biāo)記學(xué)習(xí)方法MLF-KNN(Multi-label-Featurek-NearestNeighbor)。

背景技術(shù)

傳統(tǒng)監(jiān)督學(xué)習(xí)框架認(rèn)為某一實(shí)例只屬于某一種類別，學(xué)習(xí)樣本具有單一的語義標(biāo)記，屬于“一對一”的關(guān)系。然而現(xiàn)實(shí)世界中，學(xué)習(xí)樣本往往是豐富多彩的，一個實(shí)例往往具有多個語義信息，屬于“一對多”的關(guān)系。例如在文本分類領(lǐng)域，一篇新聞報(bào)道可能會同時涉及政治和改革兩個主題。在圖像標(biāo)注領(lǐng)域，一張風(fēng)景圖片中可能會同時包含藍(lán)天，白云和草原三種標(biāo)記。在多標(biāo)記學(xué)習(xí)框架下，單個樣本是由一個實(shí)例和多個標(biāo)記構(gòu)成的，相比傳統(tǒng)機(jī)器學(xué)習(xí)，多標(biāo)記學(xué)習(xí)可以更好的反應(yīng)真實(shí)世界所包含的語義信息。多標(biāo)記學(xué)習(xí)是一個充滿挑戰(zhàn)性和前景的課題，最初起源于文本分類，如今已經(jīng)在圖像標(biāo)注、基因檢測、多媒體信息處理、個性化推薦等領(lǐng)域得到廣泛應(yīng)用。但是目前針對多標(biāo)記學(xué)習(xí)算法的研究只是對標(biāo)記之間的相關(guān)性進(jìn)行了考慮，并未從考慮標(biāo)記特征這一角度出發(fā)。因此，在考慮標(biāo)記之間相關(guān)性的基礎(chǔ)上，對標(biāo)記特征信息加以利用改進(jìn)算法，對于提高多標(biāo)記算法的標(biāo)記預(yù)測性能和促進(jìn)多標(biāo)記學(xué)習(xí)的發(fā)展具有一定的意義。

通常在多標(biāo)記學(xué)習(xí)中，定義X∈R^d代表d維實(shí)例空間，Y＝ {y₁，y₂，y₃，…，y_q}代表q維標(biāo)記空間，多標(biāo)記學(xué)習(xí)的任務(wù)就是從數(shù)據(jù)集D 中學(xué)習(xí)得到一個多標(biāo)記分類方法h:X→2^Y,h(·)也被叫做多標(biāo)記分類器,其中數(shù)據(jù)集D＝{(x_i，Y_i)|1≤i≤m}，每個實(shí)例樣本為(x_i，Y_i)，其中x_i代表一個d維實(shí)例向量(x_i1，x_i2，…，x_id)^T，其中x_i∈X。Y_i∈Y是x_i對應(yīng)的標(biāo)記集合。多標(biāo)記分類器h(·)能夠?qū)]有出現(xiàn)過的實(shí)例x預(yù)測其所屬標(biāo)記分類h(x)，其中通常分類器h(·)返回值為一個實(shí)數(shù)。

目前對多標(biāo)記算法的研究，大都集中在對標(biāo)記空間中標(biāo)記之間相關(guān)性的利用上，根據(jù)對標(biāo)記相關(guān)性利用程度的不同，可以將多標(biāo)記學(xué)習(xí)算法分為一階算法、二階算法和高階算法。[1]一階算法是將多標(biāo)記學(xué)習(xí)轉(zhuǎn)換為傳統(tǒng)的二分類學(xué)習(xí)，并未考慮標(biāo)記之間的相關(guān)性，算法相對簡單但學(xué)習(xí)結(jié)果可能并不是最優(yōu)的。二階算法考慮標(biāo)記空間中標(biāo)記的兩兩相關(guān)性，考慮到標(biāo)記之間的相關(guān)性，該類算法具有很好的泛化性，然而在實(shí)際應(yīng)用中，標(biāo)記之間的相關(guān)性可能已經(jīng)超過了二階假設(shè)。高階算法考慮到每個標(biāo)記與其他所有標(biāo)記之間的相關(guān)性，相比一階和二階算法，具有更好的建模能力，但同時對計(jì)算要求更高，可伸縮性較差。上述三類算法均假設(shè)標(biāo)記空間中的標(biāo)記信息具有同等重要性，所有樣本共享同一標(biāo)記特征空間。然而這種算法改進(jìn)思路可能并不是最優(yōu)的，因?yàn)樗雎粤藰?biāo)記特征這一重要信息。例如在識別天空和草原的場景中，顏色特征相比其他標(biāo)記特征而言應(yīng)該是相對重要的。在目前多標(biāo)記學(xué)習(xí)算法中，大都是直接在原始數(shù)據(jù)集中訓(xùn)練模型，并未針對每種類別標(biāo)記對其標(biāo)記特征進(jìn)行分析。