[發明專利]基于協方差的高斯混合模型參數分離方法

無效

• 申請號: 201310648731.2
• 申請日: 2013-12-04
• 公開（公告）號: CN103678896A
• 公開（公告）日: 2014-03-26
• 發明（設計）人: 廖曉鋒
• 申請（專利權）人: 南昌大學
• 主分類號: G06F19/00
• 分類號: G06F19/00
• 代理公司: 南昌市平凡知識產權代理事務所 36122
• 代理人: 夏材祥

1.一種基于協方差的高斯混合模型參數分離方法，其特征在于：

基于協方差的高斯混合模型學習算法

不妨設X_i＝(X_i1,…，X_it)，i＝1，…，s都是概率空間(Ω,F,p)上獨立的t維正態分布隨機變量，并且X_i1,X_i2,…，X_it也是相互獨立的，設X＝X₁UX₂U…UX_s是s個t維正態分布隨機變量的混合隨機變量，假設已知各個隨機變量的協方差矩陣：Σ_i＝(E((X_ij-μ_ij)(X_ik-μ_ik)))_t×t依據X,Σ_i求μ_i＝(μ_i1,μ_i2,…，μ_it)，其中μ_ij＝E(X_ij)，是分量的數學期望，

研究問題為:已知X＝X₁U…UX_s和協方差矩陣Σ_i,i＝1,s，X_i的各分量獨立，且滿足正態分布，求μ_i＝(μ_i1,…，μ_t)，i＝1，…，s，

給出似然函數如下：

定義1似然函數：

L=ΣxikΣxijΣj≠kΣlΣi(xij-μlj)(xik-μlk)π(i,j,k,l)F(X=(...,xij,xik,...))+ΣxijΣjΣiΣl(xij-μlj)2π(i,j,j,l)F(X=(...,xij,...))]]>

其中

i＝1,，n，j，k＝1，…，t，l＝1，…，s，

π(i,j,k,l)=p(Xij=xij,Xik=xik|μl)Σl=1sp(Xij=xij,Xik=xik|μl)]]>為邊緣分布函數，

為描述方便,簡記:

F₂(x_ij,x_ik)＝F(X＝(…·，x_ij，…，x_ik，…))

F₁(x_ij)＝F(X＝(…，x_ij，…))

當j≠k時，記

θ(i,j,k,l)=Δ∫xij-12Δxij+12Δ∫xik-12Δxik+12Δe(xij-μlj)22σlj2+(xik-μlk)22σlk2dxijdxik]]>

其中Δ為算法的計算精度，當j＝k時，記

為了使用似然估計方法，近似認為F₂(x_ij,…，x_ik)及π(i,j,k,l)是關于μ_l,l＝1,2,…,s的常數，在這個近似假定下,對L求偏導如下:

∂L∂μlj=-ΣiΣxikΣj≠k(xik-μlk)π(i,j,k,l)F2(xij,xik)-2Σi(xij-μlj)π(i,j,j,l)F1(xij)]]>可得:

∂L∂μlj0⇔-ΣiΣxikΣj≠k(xik-μlk)π(i,j,k,l)F2(xij,xik)=2Σi(xij-μlj)π(i,j,j,l)F2(xij,xik)⇔2μljΣiπ(i,j,j,l)F1(xij)=2Σixijπ(i,j,j,l)F1(xij)+ΣiΣxikΣj≠k(xik-μlk)π(i,j,k,l)F2(xij,xik)⇔μljΣiπ(i,j,j,l)F1(xij)=Σixijπ(i,j,j,l)F1(xij)+12ΣiΣxikΣj≠k(xik-μlk)π(i,j,k,l)F2(xij,xik)]]>可得:

μlj′=(Σixijπ(i,j,j,l)F1(xij)+12ΣiΣxikΣj≠k(xik-μlk)π(i,j,k,l)F2(xij,xik))Σiπ(i,j,j,l)F1(xlj)---(A)]]>

以上μ′_ij作為似然估計后的新值，

算法1CVB(Covariance?Based)算法

A.給定初值向量μ_i,i＝1,2,…,s

B.利用A式求向量μ′_i,i＝1,2,…,s

C.將第二步結果代入第一步,直到收斂。