[發明專利]基于聚類及全局/局部距離綜合的多重度量學習方法

在審

• 申請號: 201811477231.6
• 申請日: 2018-12-05
• 公開（公告）號: CN109840466A
• 公開（公告）日: 2019-06-04
• 發明（設計）人: 傅予力;張隆琴;賴凱敏;向友君
• 申請（專利權）人: 華南理工大學
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62;G06K9/66
• 代理公司: 廣州市華學知識產權代理有限公司 44245
• 代理人: 李斌

1.一種基于聚類及全局/局部距離綜合的多重度量學習方法，其特征在于，所述的多重度量學習方法包括以下步驟：

對訓練樣本進行K-Means聚類并構建三元組集合；

將樣本x和任一樣本y的距離由全局距離度量和局部距離度量綜合表示；

同時學習K+1個距離度量，包括1個全局距離度量和K個局部距離度量；

對輸入的測試樣本，計算樣本所屬聚類標記，再在該聚類的訓練樣本集中利用最近鄰方法計算測試樣本的分類結果。

2.根據權利要求1所述的基于聚類及全局/局部距離綜合的多重度量學習方法，其特征在于，所述的構建三元組集合的具體步驟如下：

假設x_i∈R^d表示訓練樣本集中第i個樣本，(x_i,x_j,x_l)表示一個三元組約束，其中x_i和x_j屬于同一類別，x_i和x_l屬于不同類別，T表示三元組集合，對于每個樣本，在沒有先驗知識的前提下，通過選擇與該樣本同類并且最近的k1個樣本分別和與該樣本不同類的最近的k2個樣本構成三元組，并且根據x_i所屬的聚類標記，將T分為K個簇{T₁,...,T_K}用于訓練K個局部距離度量。

3.根據權利要求1所述的基于聚類及全局/局部距離綜合的多重度量學習方法，其特征在于，所述的將樣本x和任一樣本y的距離由全局距離度量和局部距離度量綜合表示，包括：

假設樣本x所屬的聚類標記為c，M_c為該聚類對應的局部距離度量，M₀為全局距離度量，令樣本x和任一樣本y的距離為：

其中0≤μ≤1是權重超參數，當μ＝0時表示兩個樣本的距離只由局部距離度量M_c決定，當μ＝1時表示兩個樣本的距離只由全局距離度量M₀決定，0＜μ＜1表示兩個樣本的距離由全局距離度量和局部距離度量決定。

4.根據權利要求1所述的基于聚類及全局/局部距離綜合的多重度量學習方法，其特征在于，所述的學習K+1個距離度量，包括1個全局距離度量和K個局部距離度量中，學習模型為：

M₀,...,M_K≥0

其中，M₀表示全局距離度量，M_c,c∈[1,K]表示聚類c下的局部距離度量，所學習的K+1個矩陣均為半正定矩陣，表示三元組(x_i,x_j,x_l)中x_i與x_l的距離和x_i與x_j距離之差，其中，Z_ijl＝(x_i-x_l)(x_i-x_l)^T-(x_i-x_j)(x_i-x_j)^T，ξ_ijl是對應的松弛變量，α＞0和β＞0為超參數，相對較大的α使M₀趨近于0矩陣，此時學習到的局部距離度量彼此獨立，相對較大的β使學習到的各個局部距離度量之間與M₀有較大的相似性，此時各個局部距離度量之間有較大的相關性，N_c表示聚類c下的三元組數量。