[發(fā)明專利]圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與知識(shí)圖譜的補(bǔ)全方法、裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202110790683.5
• 申請(qǐng)日: 2021-07-13
• 公開（公告）號(hào): CN113641829A
• 公開（公告）日: 2021-11-12
• 發(fā)明（設(shè)計(jì)）人: 黃焱暉;卞東海;蔡遠(yuǎn)俊;彭衛(wèi)華;徐偉建
• 申請(qǐng)（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號(hào): G06F16/36
• 分類號(hào): G06F16/36;G06N3/04;G06N3/08
• 代理公司: 北京鴻德海業(yè)知識(shí)產(chǎn)權(quán)代理有限公司 11412
• 代理人: 田宏賓

本公開提供了一種圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與知識(shí)圖譜的補(bǔ)全方法，涉及知識(shí)圖譜、深度學(xué)習(xí)等技術(shù)領(lǐng)域。圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法包括：獲取知識(shí)圖譜并得到多個(gè)訓(xùn)練樣本與多個(gè)訓(xùn)練樣本的標(biāo)注結(jié)果；得到多個(gè)訓(xùn)練樣本的頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量；構(gòu)建包含語義層、卷積層與輸出層的初始圖神經(jīng)網(wǎng)絡(luò)；使用訓(xùn)練樣本的頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與標(biāo)注結(jié)果訓(xùn)練得到目標(biāo)圖神經(jīng)網(wǎng)絡(luò)。知識(shí)圖譜的補(bǔ)全方法包括：獲取待補(bǔ)全知識(shí)圖譜；生成頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量；將頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量輸入目標(biāo)圖神經(jīng)網(wǎng)絡(luò)得到相似度結(jié)果；在確定相似度結(jié)果滿足預(yù)設(shè)要求的情況下，根據(jù)頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與待補(bǔ)全知識(shí)圖譜完成補(bǔ)全。

技術(shù)領(lǐng)域

本公開涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及知識(shí)圖譜、深度學(xué)習(xí)等人工智能技術(shù)領(lǐng)域。提供了一種圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與知識(shí)圖譜的補(bǔ)全方法、裝置、電子設(shè)備和可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

知識(shí)圖譜(Knowledge Graph)用于描述現(xiàn)實(shí)世界中各種實(shí)體或者各種概念之間的關(guān)系，已經(jīng)被廣泛地應(yīng)用于自動(dòng)問答、信息抽取、個(gè)性化推薦等領(lǐng)域。雖然知識(shí)圖譜可以提供高質(zhì)量的結(jié)構(gòu)化數(shù)據(jù)，但是現(xiàn)階段的知識(shí)圖譜是通過人工或者半自動(dòng)的方法所建立的，通常不是完整的，因此需要將知識(shí)圖譜進(jìn)行補(bǔ)全。

發(fā)明內(nèi)容

根據(jù)本公開的第一方面，提供了一種圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法，包括：獲取知識(shí)圖譜，根據(jù)所述知識(shí)圖譜得到多個(gè)訓(xùn)練樣本與多個(gè)訓(xùn)練樣本的標(biāo)注結(jié)果，每個(gè)訓(xùn)練樣本為由所述知識(shí)圖譜中的頭結(jié)點(diǎn)、關(guān)系與尾結(jié)點(diǎn)構(gòu)成的三元組；得到所述多個(gè)訓(xùn)練樣本中頭結(jié)點(diǎn)的頭結(jié)點(diǎn)向量、關(guān)系的關(guān)系向量與尾結(jié)點(diǎn)的尾結(jié)點(diǎn)向量；構(gòu)建包含語義層、卷積層與輸出層的初始圖神經(jīng)網(wǎng)絡(luò)，所述卷積層用于根據(jù)所述語義層輸出的頭結(jié)點(diǎn)語義向量與關(guān)系語義向量得到卷積向量；使用多個(gè)訓(xùn)練樣本的頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與多個(gè)訓(xùn)練樣本的標(biāo)注結(jié)果對(duì)所述初始圖神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到目標(biāo)圖神經(jīng)網(wǎng)絡(luò)。

根據(jù)本公開的第二方面，提供了一種知識(shí)圖譜的補(bǔ)全方法，包括：獲取待補(bǔ)全知識(shí)圖譜；生成頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量；將所述頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量輸入目標(biāo)圖神經(jīng)網(wǎng)絡(luò)，得到所述目標(biāo)圖神經(jīng)網(wǎng)絡(luò)輸出的相似度結(jié)果；在確定所述相似度結(jié)果滿足預(yù)設(shè)要求的情況下，根據(jù)所述頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與所述待補(bǔ)全知識(shí)圖譜，完成所述待補(bǔ)全知識(shí)圖譜的補(bǔ)全。

根據(jù)本公開的第三方面，提供了一種圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練裝置，包括：第一獲取單元，用于獲取知識(shí)圖譜，根據(jù)所述知識(shí)圖譜得到多個(gè)訓(xùn)練樣本與多個(gè)訓(xùn)練樣本的標(biāo)注結(jié)果，每個(gè)訓(xùn)練樣本為由所述知識(shí)圖譜中的頭結(jié)點(diǎn)、關(guān)系與尾結(jié)點(diǎn)構(gòu)成的三元組；處理單元，用于得到所述多個(gè)訓(xùn)練樣本中頭結(jié)點(diǎn)的頭結(jié)點(diǎn)向量、關(guān)系的關(guān)系向量與尾結(jié)點(diǎn)的尾結(jié)點(diǎn)向量；構(gòu)建單元，用于構(gòu)建包含語義層、卷積層與輸出層的初始圖神經(jīng)網(wǎng)絡(luò)，所述卷積層用于根據(jù)所述語義層輸出的頭結(jié)點(diǎn)語義向量與關(guān)系語義向量得到卷積向量；訓(xùn)練單元，用于使用多個(gè)訓(xùn)練樣本的頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與多個(gè)訓(xùn)練樣本的標(biāo)注結(jié)果對(duì)所述初始圖神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到目標(biāo)圖神經(jīng)網(wǎng)絡(luò)。

根據(jù)本公開的第四方面，提供了一種知識(shí)圖譜的補(bǔ)全裝置，包括：第二獲取單元，用于獲取待補(bǔ)全知識(shí)圖譜；生成單元，用于生成頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量；確定單元，用于將所述頭結(jié)點(diǎn)向量、關(guān)系向量與尾結(jié)點(diǎn)向量輸入目標(biāo)圖神經(jīng)網(wǎng)絡(luò)，得到所述目標(biāo)圖神經(jīng)網(wǎng)絡(luò)輸出的相似度結(jié)果；補(bǔ)全單元，用于在確定所述相似度結(jié)果滿足預(yù)設(shè)要求的情況下，根據(jù)所述頭結(jié)點(diǎn)向量、關(guān)系向量、尾結(jié)點(diǎn)向量與所述待補(bǔ)全知識(shí)圖譜，完成所述待補(bǔ)全知識(shí)圖譜的補(bǔ)全。

根據(jù)本公開的第五方面，提供了一種電子設(shè)備，包括：至少一個(gè)處理器；以及與所述至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，所述存儲(chǔ)器存儲(chǔ)有可被所述至少一個(gè)處理器執(zhí)行的指令，所述指令被所述至少一個(gè)處理器執(zhí)行，以使所述至少一個(gè)處理器能夠執(zhí)行如上所述的方法。

根據(jù)本公開的第六方面，提供了一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行如上所述的方法。