[發(fā)明專利]基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210390059.0
• 申請(qǐng)日: 2022-04-14
• 公開（公告）號(hào): CN114741532A
• 公開（公告）日: 2022-07-12
• 發(fā)明（設(shè)計(jì)）人: 尉秀梅;馬浩翔;姜雪松;柴慧慧;陳珺;陳佃迎
• 申請(qǐng)（專利權(quán)）人: 齊魯工業(yè)大學(xué)
• 主分類號(hào): G06F16/36
• 分類號(hào): G06F16/36;G06N5/02;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 濟(jì)南圣達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 37221
• 代理人: 于鳳洋

1.基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，

對(duì)獲取的待補(bǔ)全三元組使用多頭注意力機(jī)制與記憶矩陣循環(huán)交互，編碼實(shí)體和關(guān)系之間的潛在依賴關(guān)系，生成三元組編碼向量；

將三元組編碼向量，輸入到訓(xùn)練好的膠囊網(wǎng)絡(luò)中，提取全局特征，并為全局特征分配不同的耦合系數(shù)，根據(jù)全局特征預(yù)測(cè)缺失的三元組，完成知識(shí)圖譜的補(bǔ)全。

2.如權(quán)利要求1所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，所述三元組由頭實(shí)體、關(guān)系和尾實(shí)體三部分組成，循環(huán)交互前，將三元組轉(zhuǎn)換為頭實(shí)體、關(guān)系和尾實(shí)體向量，并嵌入位置信息，得到頭實(shí)體、關(guān)系和尾實(shí)體的三元組向量。

3.如權(quán)利要求1所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，所述多頭注意力機(jī)制與記憶矩陣循環(huán)交互，具體方法是：

構(gòu)建記憶矩陣，每一行都是一個(gè)記憶槽位，初始值為三元組向量形成的矩陣；

循環(huán)更新記憶矩陣，查詢矩陣和鍵矩陣點(diǎn)積運(yùn)算得到三元組向量和記憶矩陣的標(biāo)量值，輸入Softmax函數(shù)中，計(jì)算得到多頭注意力權(quán)重值，用多頭注意力權(quán)重值殘差連接三元組向量和記憶矩陣得到新的記憶矩陣，循環(huán)更新記憶矩陣，直至更新完記憶矩陣的每一行。

4.如權(quán)利要求1所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，所述膠囊網(wǎng)絡(luò)執(zhí)行的具體步驟為：

將關(guān)系記憶模塊輸出的三原則編碼向量拼接成卷積層的輸入矩陣；

使用三種不同窗口大小的卷積核對(duì)輸入矩陣的每一行執(zhí)行卷積運(yùn)算生成特征圖，得到卷積層輸出的特征圖列表；

將特征圖列表輸入到膠囊層，為輸出的特征分配不同的耦合系數(shù)，預(yù)測(cè)缺失的三元組。

5.如權(quán)利要求4所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，所述膠囊層預(yù)測(cè)缺失的三元組的具體方法：

將卷積層生成的多個(gè)特征圖按照特征維度重組構(gòu)建膠囊，捕獲更多實(shí)體之間不同位置的特征向量，并將特征向量與權(quán)重矩陣相乘提取感興趣的特征；

將提取的特征，輸入到動(dòng)態(tài)分散路由算法中，計(jì)算三元組的得分，通過得分排序，得到最終的缺失預(yù)測(cè)結(jié)果。

6.如權(quán)利要求5所述基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，動(dòng)態(tài)分散路由算法的計(jì)算過程為：

提取的特征與耦合系數(shù)相乘，輸入到非線性壓縮函數(shù)中進(jìn)行放大，計(jì)算三元組輸出向量，并將三元組輸出向量加權(quán)求和得到三元組的得分。

7.如權(quán)利要求6所述基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法，其特征在于，所述耦合系數(shù)，是主膠囊和最終膠囊之間的相關(guān)強(qiáng)度，為真實(shí)特征分配更大的耦合系數(shù)，為錯(cuò)誤的特征分配相對(duì)較小的耦合系數(shù)，通過Sigmoid函數(shù)計(jì)算得到。

8.基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全系統(tǒng)，其特征在于：包括關(guān)系記憶模塊和膠囊網(wǎng)絡(luò)模塊；

所述關(guān)系記憶模塊，用于對(duì)獲取的待補(bǔ)全三元組使用多頭注意力機(jī)制與記憶矩陣循環(huán)交互，編碼實(shí)體和關(guān)系之間的潛在依賴關(guān)系，生成三元組編碼向量；

所述膠囊網(wǎng)絡(luò)模塊，用于將三元組編碼向量，輸入到訓(xùn)練好的膠囊網(wǎng)絡(luò)中，提取全局特征，并為全局特征分配不同的耦合系數(shù)，根據(jù)全局特征預(yù)測(cè)缺失的三元組，完成知識(shí)圖譜的補(bǔ)全。

9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有程序，其特征在于，該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法中的步驟。

10.一種電子設(shè)備，包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的程序，其特征在于，所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的基于多尺度分散動(dòng)態(tài)路由的知識(shí)圖譜補(bǔ)全方法中的步驟。