[發(fā)明專利]數(shù)據(jù)驅(qū)動(dòng)的群體智能交互關(guān)系推斷與演化計(jì)算方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011169997.5
• 申請(qǐng)日: 2020-10-28
• 公開(kāi)（公告）號(hào): CN112269931A
• 公開(kāi)（公告）日: 2021-01-26
• 發(fā)明（設(shè)計(jì)）人: 王甲海;利國(guó)卿;陳思遠(yuǎn)
• 申請(qǐng)（專利權(quán)）人: 中山大學(xué)
• 主分類號(hào): G06F16/9535
• 分類號(hào): G06F16/9535;G06F16/9536;G06F16/9537;G06Q50/00;G06N3/04;G06N3/08
• 代理公司: 廣州市華學(xué)知識(shí)產(chǎn)權(quán)代理有限公司 44245
• 代理人: 林梅繁

本發(fā)明為數(shù)據(jù)驅(qū)動(dòng)的群體智能交互關(guān)系推斷與演化計(jì)算方法，可準(zhǔn)確預(yù)測(cè)群體智能系統(tǒng)中個(gè)體運(yùn)動(dòng)軌跡和狀態(tài)。包括：通過(guò)具有關(guān)系交互機(jī)制的編碼器模型，從群體智能系統(tǒng)的N個(gè)對(duì)象在T個(gè)時(shí)刻可觀測(cè)軌跡數(shù)據(jù)中建模交互關(guān)系的分布；從離散的交互關(guān)系分布中采樣出交互關(guān)系類型的特征向量；通過(guò)具有時(shí)空消息傳遞機(jī)制的解碼器模型，根據(jù)可觀測(cè)軌跡數(shù)據(jù)和交互關(guān)系類型的特征向量，學(xué)習(xí)動(dòng)態(tài)演化規(guī)則并計(jì)算群體智能系統(tǒng)的未來(lái)狀態(tài)；引入交互關(guān)系的對(duì)稱性作為結(jié)構(gòu)先驗(yàn)知識(shí)來(lái)實(shí)施軟約束；多次訓(xùn)練模型參數(shù)直至收斂，獲得損失函數(shù)值最小的模型作為最終模型，再推斷出對(duì)象之間的交互關(guān)系，預(yù)測(cè)對(duì)象的運(yùn)動(dòng)軌跡和系統(tǒng)未來(lái)狀態(tài)。

技術(shù)領(lǐng)域

本發(fā)明涉及群體智能系統(tǒng)中個(gè)體運(yùn)動(dòng)軌跡和狀態(tài)的預(yù)測(cè)技術(shù)，具體為一種數(shù)據(jù)驅(qū)動(dòng)的群體智能交互關(guān)系推斷與演化計(jì)算方法。

背景技術(shù)

許多自然界和社會(huì)領(lǐng)域中的復(fù)雜過(guò)程，如社交網(wǎng)絡(luò)、物理系統(tǒng)等，可以看成是由個(gè)體之間的交互而形成的群體智能系統(tǒng)。揭示群體智能系統(tǒng)中潛在的交互作用，并以此分析個(gè)體到群體的智能涌現(xiàn)機(jī)理，學(xué)習(xí)系統(tǒng)的動(dòng)態(tài)演化規(guī)則，可以使我們可以更好地理解、預(yù)測(cè)和控制群體系統(tǒng)的行為。

然而在許多情況下，我們僅能觀察到群體系統(tǒng)的時(shí)序狀態(tài)信息，而個(gè)體的交互關(guān)系和動(dòng)態(tài)演化規(guī)則是未知的。一些研究人員探索了從可觀察的數(shù)據(jù)中建模隱式交互關(guān)系并學(xué)習(xí)動(dòng)態(tài)演化規(guī)則，例如使用消息傳遞函數(shù)(van Steenkiste等人在ICLR2018會(huì)議)或注意力機(jī)制(Watters等人在NIPS2017會(huì)議)等。

相比于建模隱式交互關(guān)系，對(duì)顯式交互關(guān)系進(jìn)行建?？梢愿逦亟沂窘换バ袨榕c群體系統(tǒng)智能涌現(xiàn)及動(dòng)態(tài)演化之間的關(guān)系。Kipf等人在ICML2018會(huì)議中提出了一種神經(jīng)關(guān)系推斷模型NRI，該模型采用變分自編碼器框架，以一種無(wú)監(jiān)督的方式共同學(xué)習(xí)群體系統(tǒng)的顯式交互關(guān)系和動(dòng)態(tài)演化規(guī)則。然而，NRI模型存在三處不足。第一，它獨(dú)立地建模個(gè)體之間的顯式交互關(guān)系，而沒(méi)有考慮這些交互關(guān)系彼此之間的共存性，盡管Alet等人在NIPS2019會(huì)議中提出整體考慮所有交互關(guān)系并通過(guò)模塊化元學(xué)習(xí)迭代地改進(jìn)預(yù)測(cè)來(lái)解決此問(wèn)題，但是此方法需要付出十分昂貴的計(jì)算代價(jià)。第二，為了強(qiáng)調(diào)交互關(guān)系對(duì)群體系統(tǒng)演化的影響，NRI模型預(yù)測(cè)了未來(lái)多個(gè)時(shí)刻的狀態(tài)，但這也導(dǎo)致了誤差的累積并阻礙模型準(zhǔn)確地學(xué)習(xí)演化規(guī)則。第三，在沒(méi)有先驗(yàn)知識(shí)的幫助下，群體系統(tǒng)的規(guī)模和復(fù)雜性的增加會(huì)使NRI模型建模交互關(guān)系愈發(fā)困難。

發(fā)明內(nèi)容

本發(fā)明的目的是提供一種數(shù)據(jù)驅(qū)動(dòng)的群體智能交互關(guān)系推斷與演化計(jì)算方法，使用高效消息傳遞機(jī)制的圖神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行神經(jīng)關(guān)系推斷，引入結(jié)構(gòu)先驗(yàn)知識(shí)來(lái)提升交互關(guān)系的建模效果，準(zhǔn)確預(yù)測(cè)群體智能系統(tǒng)中個(gè)體運(yùn)動(dòng)軌跡和狀態(tài)。

本發(fā)明數(shù)據(jù)驅(qū)動(dòng)的群體智能交互關(guān)系推斷與演化計(jì)算方法，包括：

S1、通過(guò)具有關(guān)系交互機(jī)制的編碼器模型，從群體智能系統(tǒng)的N個(gè)對(duì)象在T個(gè)時(shí)刻可觀測(cè)軌跡數(shù)據(jù)x中建模交互關(guān)系的分布；

S2、從步驟S1中離散的交互關(guān)系分布中采樣出交互關(guān)系類型的特征向量；

S3、通過(guò)具有時(shí)空消息傳遞機(jī)制的解碼器模型，根據(jù)可觀測(cè)軌跡數(shù)據(jù)x和交互關(guān)系類型的特征向量，學(xué)習(xí)動(dòng)態(tài)演化規(guī)則并計(jì)算群體智能系統(tǒng)的未來(lái)狀態(tài)；

S4、引入交互關(guān)系的對(duì)稱性作為結(jié)構(gòu)先驗(yàn)知識(shí)，即在損失函數(shù)中加入正則項(xiàng)來(lái)實(shí)施軟約束；

S5、多次訓(xùn)練模型參數(shù)直至收斂，獲得損失函數(shù)值最小的模型作為最終模型；最終模型根據(jù)對(duì)象的歷史軌跡數(shù)據(jù)，推斷出對(duì)象之間的交互關(guān)系，進(jìn)而預(yù)測(cè)對(duì)象的運(yùn)動(dòng)軌跡和群體智能系統(tǒng)的未來(lái)狀態(tài)。

與現(xiàn)有技術(shù)相比，本發(fā)明技術(shù)方案的有益效果是：

1、本發(fā)明引入關(guān)系交互機(jī)制來(lái)捕獲不同個(gè)體之間的依賴關(guān)系，聯(lián)合建模群體系統(tǒng)中的交互關(guān)系，大幅度提高了個(gè)體之間的交互關(guān)系建模的準(zhǔn)確性，并基于交互關(guān)系進(jìn)行演化計(jì)算，準(zhǔn)確預(yù)測(cè)群體智能系統(tǒng)中個(gè)體運(yùn)動(dòng)軌跡和狀態(tài)。