[發(fā)明專利]一種基于知識(shí)圖譜嵌入的鏈接預(yù)測(cè)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110686675.6
• 申請(qǐng)日: 2021-06-21
• 公開（公告）號(hào): CN113360286B
• 公開（公告）日: 2022-04-12
• 發(fā)明（設(shè)計(jì)）人: 黃震;孫鼎;李東升;王藝霖;喬林波;汪昌健;徐皮克;陳易欣
• 申請(qǐng)（專利權(quán)）人: 中國(guó)人民解放軍國(guó)防科技大學(xué)
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;G06F40/295
• 代理公司: 湖南企企衛(wèi)知識(shí)產(chǎn)權(quán)代理有限公司 43257
• 代理人: 任合明

1.一種基于知識(shí)圖譜嵌入的鏈接預(yù)測(cè)方法，其特征在于包括以下步驟：

第一步：對(duì)知識(shí)圖譜進(jìn)行分區(qū)；根據(jù)需要確定分區(qū)數(shù)量P和每個(gè)分區(qū)的子分區(qū)數(shù)量PP，將所有的實(shí)體分為subP個(gè)不重疊的子分區(qū)，subP＝P×PP，子分區(qū)為實(shí)體集E的互不重疊的子集，分區(qū)為PP個(gè)子分區(qū)的并集；將所有的三元組根據(jù)其頭實(shí)體和尾實(shí)體所在子分區(qū)劃分為不同的子三元組塊；方法是：

步驟1.1輸入知識(shí)圖譜數(shù)據(jù)，得到實(shí)體集E，關(guān)系集R，三元組集T，實(shí)體數(shù)量num_entities，E中包含num_entities個(gè)實(shí)體，num_entities為正整數(shù)，T中包含num_triples個(gè)三元組，num_triples為正整數(shù)；

步驟1.2設(shè)置超參數(shù)嵌入向量維度D、分區(qū)數(shù)量P、每個(gè)分區(qū)包含的子分區(qū)數(shù)量PP，得到總的子分區(qū)數(shù)量subP＝P×PP，計(jì)算實(shí)體子分區(qū)大小subpart_size，subpart_size＝num_entities/subP；

步驟1.3將實(shí)體集E隨機(jī)打亂，然后按照子分區(qū)大小subpart_size將實(shí)體分割成subP個(gè)子分區(qū)集subpart，subpart中共有subP個(gè)實(shí)體子分區(qū)，每個(gè)實(shí)體子分區(qū)中含subpart_size個(gè)實(shí)體；

步驟1.4遍歷三元組集T所有的三元組，根據(jù)三元組頭實(shí)體和尾實(shí)體所屬的分區(qū)，將三元組劃分到對(duì)應(yīng)的子三元組塊中，得到subP²個(gè)子三元組塊組成的子三元組塊集合subBuckets，subBuckets＝{subBucket(i2，j2)|1＜i2，j2≤subP}，其中(i2，j2)為子三元組塊的編號(hào)，表示該三元組塊中所有三元組的頭實(shí)體來(lái)自第i2實(shí)體子分區(qū)，尾實(shí)體來(lái)自第j2實(shí)體子分區(qū)，subBucket(i2，j2)表示編號(hào)為(i2，j2)的子三元組塊，將子三元組塊集合中所有的三元組塊存儲(chǔ)至共享文件系統(tǒng)；

第二步：構(gòu)建嵌入模型；方法是先表示實(shí)體、關(guān)系：嵌入模型采用嵌入向量表示實(shí)體和關(guān)系，將實(shí)體嵌入向量作為實(shí)體子分區(qū)嵌入矩陣行向量，將關(guān)系嵌入向量作為關(guān)系嵌入矩陣行向量，嵌入模型的參數(shù)由實(shí)體嵌入向量和關(guān)系嵌入向量構(gòu)成；再定義得分函數(shù)：得分函數(shù)定義了如何使用實(shí)體和關(guān)系嵌入計(jì)算三元組得分；由實(shí)體子分區(qū)嵌入矩陣、關(guān)系嵌入矩陣、得分函數(shù)共同組成嵌入模型；

第三步，構(gòu)建知識(shí)圖譜鏈接預(yù)測(cè)系統(tǒng)；知識(shí)圖譜鏈接預(yù)測(cè)系統(tǒng)由包含N個(gè)服務(wù)器的計(jì)算集群和共享文件系統(tǒng)組成，N個(gè)服務(wù)器均包含CPU和GPU，N為正整數(shù)；

共享文件系統(tǒng)是計(jì)算集群的共享磁盤，負(fù)責(zé)存儲(chǔ)實(shí)體子分區(qū)嵌入矩陣、關(guān)系嵌入矩陣θ、以及三元組塊；

N個(gè)服務(wù)器與共享文件系統(tǒng)相連，從共享文件系統(tǒng)獲取嵌入模型，負(fù)責(zé)對(duì)嵌入模型進(jìn)行訓(xùn)練，并對(duì)用戶輸入的要預(yù)測(cè)的實(shí)體缺失的三元組即缺失三元組，使用訓(xùn)練后的嵌入模型進(jìn)行鏈接預(yù)測(cè)，得到預(yù)測(cè)結(jié)果；

對(duì)嵌入模型訓(xùn)練時(shí)，每個(gè)服務(wù)器都是一個(gè)訓(xùn)練節(jié)點(diǎn)，從訓(xùn)練節(jié)點(diǎn)中選擇一個(gè)作為主節(jié)點(diǎn)；主節(jié)點(diǎn)也是訓(xùn)練節(jié)點(diǎn)，除了運(yùn)行訓(xùn)練節(jié)點(diǎn)的所有進(jìn)程外，還要運(yùn)行鎖服務(wù)器進(jìn)程，訓(xùn)練節(jié)點(diǎn)運(yùn)行數(shù)據(jù)加載進(jìn)程和GPU訓(xùn)練進(jìn)程；數(shù)據(jù)加載進(jìn)程負(fù)責(zé)從共享文件系統(tǒng)中讀取和寫入實(shí)體子分區(qū)嵌入矩陣、關(guān)系嵌入矩陣；鏈接預(yù)測(cè)時(shí)，每個(gè)服務(wù)器作為一個(gè)預(yù)測(cè)節(jié)點(diǎn)，從預(yù)測(cè)節(jié)點(diǎn)選擇一個(gè)作為查詢節(jié)點(diǎn)，各預(yù)測(cè)節(jié)點(diǎn)從共享文件系統(tǒng)加載訓(xùn)練后的嵌入模型，從查詢節(jié)點(diǎn)獲取用戶輸入的缺失三元組，然后使用嵌入模型進(jìn)行預(yù)測(cè)；

第四步，采用多機(jī)并行和CPU、GPU并行對(duì)嵌入模型進(jìn)行分布式訓(xùn)練，將計(jì)算集群中的所有N個(gè)服務(wù)器作為訓(xùn)練節(jié)點(diǎn)，訓(xùn)練節(jié)點(diǎn)安裝有數(shù)據(jù)加載進(jìn)程和GPU訓(xùn)練進(jìn)程，數(shù)據(jù)加載進(jìn)程和GPU訓(xùn)練進(jìn)程配合完成對(duì)嵌入模型的訓(xùn)練；從訓(xùn)練節(jié)點(diǎn)中任選一個(gè)作為主節(jié)點(diǎn)，主結(jié)點(diǎn)安裝有鎖服務(wù)進(jìn)程；主節(jié)點(diǎn)的鎖服務(wù)進(jìn)程按步驟4.1的流程對(duì)三元組塊進(jìn)行調(diào)度，同時(shí)N個(gè)訓(xùn)練節(jié)點(diǎn)的數(shù)據(jù)加載進(jìn)程按步驟4.2的流程進(jìn)行數(shù)據(jù)加載，同時(shí)N個(gè)訓(xùn)練節(jié)點(diǎn)的GPU訓(xùn)練進(jìn)程按步驟4.3的流程進(jìn)行訓(xùn)練，步驟4.1、步驟4.2、步驟4.3并行進(jìn)行，完成分布式訓(xùn)練，得到訓(xùn)練后的嵌入模型；方法是：

步驟4.1主節(jié)點(diǎn)啟動(dòng)鎖服務(wù)器進(jìn)程，鎖服務(wù)器進(jìn)程調(diào)度每個(gè)訓(xùn)練節(jié)點(diǎn)進(jìn)行訓(xùn)練所需的三元組塊；調(diào)度方法如下：

步驟4.1.1鎖服務(wù)器進(jìn)程初始化活動(dòng)列表active和完成列表done，active和done初始值都為空，active保存當(dāng)前正在訓(xùn)練的三元組塊編號(hào)，done保存已經(jīng)訓(xùn)練完的三元組塊編號(hào)；初始化三元組塊總數(shù)num_buckets＝P²，P為分區(qū)數(shù)量；

步驟4.1.2鎖服務(wù)器進(jìn)程接收N個(gè)訓(xùn)練節(jié)點(diǎn)發(fā)送來(lái)的信息，按照先到先得的順序進(jìn)行處理；如果信息為開始新的訓(xùn)練周期，轉(zhuǎn)步驟4.1.3；如果信息為請(qǐng)求三元組塊，轉(zhuǎn)步驟4.1.4；如果信息為釋放三元組塊，轉(zhuǎn)步驟4.1.5；如果信息為結(jié)束訓(xùn)練，結(jié)束鎖服務(wù)器進(jìn)程；

步驟4.1.3新的訓(xùn)練周期開始，清空active和done，生成從分區(qū)到子分區(qū)的隨機(jī)映射maps，并將maps發(fā)送到N個(gè)訓(xùn)練節(jié)點(diǎn)；轉(zhuǎn)步驟4.1.2；

步驟4.1.4為訓(xùn)練節(jié)點(diǎn)生成可訓(xùn)練的三元組塊編號(hào)，得到可訓(xùn)練三元組編號(hào)res_bucket，并更新活動(dòng)列表active和完成列表done；

步驟4.1.5將釋放三元組塊信息中的三元組編號(hào)從active移除；轉(zhuǎn)步驟4.1.2；

步驟4.2在N臺(tái)訓(xùn)練節(jié)點(diǎn)上啟動(dòng)數(shù)據(jù)加載進(jìn)程，N個(gè)訓(xùn)練節(jié)點(diǎn)的數(shù)據(jù)加載進(jìn)程的流程完全相同，第n個(gè)訓(xùn)練節(jié)點(diǎn)進(jìn)行數(shù)據(jù)加載的方法如下：

步驟4.2.1在內(nèi)存中創(chuàng)建4個(gè)PP×subpart_size行D列的矩陣Embs₁，Embs₂，Embs₃，Embs₄，矩陣元素值初始化為0，令實(shí)體嵌入矩陣列表Embs＝[Embs₁，Embs₂，Embs₃，Embs₄]，令空閑矩陣序號(hào)列表free_idxs＝[0，1，2，3]；創(chuàng)建2個(gè)int類型進(jìn)程間共享變量lock₁＝0，lock₂＝0；創(chuàng)建2個(gè)三元組編號(hào)curB₁＝(0，0)，curB₂＝(0，0)；創(chuàng)建2個(gè)實(shí)體嵌入矩陣序號(hào)列表EmbsIdx₁，EmbsIdx₂，分別初始化為長(zhǎng)度為P的列表，列表元素均為0；創(chuàng)建2個(gè)三元組列表Triples₁，Triples₂，初始化為空；創(chuàng)建進(jìn)程間傳輸管道conm，用于進(jìn)程間數(shù)據(jù)傳輸，其數(shù)據(jù)類型為Pipe，創(chuàng)建訓(xùn)練標(biāo)記is_training，初始化為True，類型為bool；創(chuàng)建共享參數(shù)列表shared_paras，shared_paras中包含兩組共享參數(shù)，令shared_paras＝[(lock₁，curb₁，EmbsIdx₁，Triples₁)，(lock₂，curB₂，EmbsIdx₂，Triples₂)]；

步驟4.2.2從共享文件系統(tǒng)中讀取關(guān)系嵌入矩陣θ，在第n個(gè)訓(xùn)練節(jié)點(diǎn)中啟動(dòng)參數(shù)服務(wù)器，參數(shù)服務(wù)器負(fù)責(zé)將關(guān)系嵌入矩陣θ在N個(gè)訓(xùn)練節(jié)點(diǎn)之間進(jìn)行同步；

步驟4.2.3令當(dāng)前訓(xùn)練周期數(shù)epoch＝1，獲取用戶定義的總訓(xùn)練周期數(shù)hum_epoch，num_epoch為正整數(shù)；

步驟4.2.4如果epoch≤hum_epoch，轉(zhuǎn)步驟4.2.5，否則轉(zhuǎn)步驟4.2.21；

步驟4.2.5如果第n個(gè)訓(xùn)練節(jié)點(diǎn)為主結(jié)點(diǎn)，向鎖服務(wù)器進(jìn)程發(fā)送開始新的訓(xùn)練周期信息，轉(zhuǎn)步驟4.2.6；如果第n個(gè)訓(xùn)練節(jié)點(diǎn)不是主結(jié)點(diǎn)，直接轉(zhuǎn)步驟4.2.6；

步驟4.2.6判斷是否從鎖服務(wù)器進(jìn)程接收到分區(qū)到子分區(qū)的映射關(guān)系maps，若接收到maps，轉(zhuǎn)步驟4.2.7；若未收到maps，轉(zhuǎn)步驟4.2.6繼續(xù)等待；

步驟4.2.7第n個(gè)訓(xùn)練節(jié)點(diǎn)開始第epoch輪訓(xùn)練周期的訓(xùn)練，初始化第epoch輪訓(xùn)練周期三元組塊編號(hào)cur_b＝None，next_b＝None，old_b＝None，next_arg_idx＝0；cur_b是第epoch輪正在訓(xùn)練的三元組塊編號(hào)，next_b是待加載的三元組塊編號(hào)，old_b是已經(jīng)訓(xùn)練完成的三元組塊編號(hào)，next_arg_idx是用于加載的共享參數(shù)在shared_paras中的序號(hào)；

步驟4.2.8從共享參數(shù)列表中取出第next_arg_idx+1個(gè)元素：令lock，curB，EmbsIdx，Triples＝shared_paras[next_arg_idx]＝shared_paras[next_arg_idx]；使用get_lock()函數(shù)對(duì)輸入為lock時(shí)獲取臨時(shí)變量L，使用acquire()函數(shù)對(duì)輸入為L(zhǎng)時(shí)獲取是否成功標(biāo)記is_success，如果is_success＝True，轉(zhuǎn)步驟4.2.9，否則轉(zhuǎn)步驟4.2.8；

步驟4.2.9判斷l(xiāng)ock的值是否為0，如果是0，轉(zhuǎn)步驟4.2.10；否則，使用get_lock()函數(shù)對(duì)輸入為lock時(shí)獲取臨時(shí)變量L，使用release()函數(shù)對(duì)輸入為L(zhǎng)時(shí)進(jìn)行進(jìn)程鎖釋放，轉(zhuǎn)步驟4.2.8；

步驟4.2.10向鎖服務(wù)器進(jìn)程發(fā)送獲取三元組塊請(qǐng)求，從主節(jié)點(diǎn)得到res_bucket和未訓(xùn)練三元組塊數(shù)量remaining；如果res_bucket為None且remaining為0，轉(zhuǎn)步驟4.2.17；如果res_bucket為None且remaining不為0，轉(zhuǎn)步驟4.2.10；如果res_bucket不為None，更新old_b＝cur_b，cur_b＝next_b，next_b＝res_bucket，轉(zhuǎn)步驟4.2.11；

步驟4.2.11在內(nèi)存和共享文件系統(tǒng)之間采用嵌入數(shù)據(jù)交換方法對(duì)next_b和old_b進(jìn)行分區(qū)嵌入矩陣數(shù)據(jù)交換；

步驟4.2.12從共享文件系統(tǒng)中加載next_b三元組到內(nèi)存；Parth，Partt分別為三元組編號(hào)next_b的第1個(gè)和第2個(gè)整數(shù)，從maps獲取分區(qū)Parth和Parth對(duì)應(yīng)的子分區(qū)：maps[Parth]＝[sh1，sh2，...shPP]，maps[Partt]＝[st1，st2，...，stPP]；從共享文件系統(tǒng)中加載子分區(qū)對(duì)應(yīng)的子三元組塊{subBuckets[i3，j3]|i3∈maps[Parth]，j3∈maps[Partt]}，并重組為next_b三元組塊Bucket，將Bucket保存至Triples；更新共享參數(shù)cur_B＝next_b；

步驟4.2.13令lock＝1，令next_arg_idx＝(next_arg_idx+1)％2；

步驟4.2.14使用get_lock()函數(shù)對(duì)輸入為lock時(shí)獲取臨時(shí)變量L，使用release()函數(shù)對(duì)輸入為L(zhǎng)時(shí)進(jìn)行進(jìn)程鎖釋放；

步驟4.2.15第n個(gè)訓(xùn)練節(jié)點(diǎn)從conn中接收訓(xùn)練完成信息；

步驟4.2.16轉(zhuǎn)步驟4.2.8；

步驟4.2.17更新old_b＝cur_b，cur_b＝next_b，next_b＝None，使用步驟4.2.11中的嵌入數(shù)據(jù)交換方法對(duì)更新后next_b，old_b進(jìn)行嵌入數(shù)據(jù)交換；

步驟4.2.18第n個(gè)訓(xùn)練節(jié)點(diǎn)從conn中接收訓(xùn)練完成信息，更新old_b＝cur_b，cur_b＝next_b，next_b＝None，使用步驟4.2.11中的嵌入數(shù)據(jù)交換方法對(duì)更新后next_b，old_b進(jìn)行嵌入數(shù)據(jù)交換；

步驟4.2.19如果第n個(gè)訓(xùn)練節(jié)點(diǎn)是主結(jié)點(diǎn)，將關(guān)系嵌入矩陣θ存儲(chǔ)至共享文件系統(tǒng)，轉(zhuǎn)步驟4.2.20；如果第n個(gè)訓(xùn)練節(jié)點(diǎn)不是主結(jié)點(diǎn)，直接轉(zhuǎn)步驟4.2.20；

步驟4.2.20第epoch輪訓(xùn)練結(jié)束，令epoch＝epoch+1，轉(zhuǎn)步驟4.2.4；

步驟4.2.21說(shuō)明第n個(gè)訓(xùn)練節(jié)點(diǎn)已進(jìn)行了num_epoch輪訓(xùn)練，得到了訓(xùn)練完成的知識(shí)圖譜嵌入模型，令訓(xùn)練標(biāo)記is_training＝False；如果當(dāng)前節(jié)點(diǎn)是主節(jié)點(diǎn)，則向鎖服務(wù)器發(fā)送訓(xùn)練結(jié)束信息，轉(zhuǎn)第五步，否則直接轉(zhuǎn)第五步；

步驟4.3啟動(dòng)GPU訓(xùn)練進(jìn)程，在數(shù)據(jù)加載完成的三元組塊上進(jìn)行模型訓(xùn)練，直至數(shù)據(jù)加載進(jìn)程完成所有訓(xùn)練周期的數(shù)據(jù)加載；第n個(gè)訓(xùn)練節(jié)點(diǎn)的GPU訓(xùn)練進(jìn)程首先嘗試獲取內(nèi)存中數(shù)據(jù)加載進(jìn)程完成加載的三元組塊以及相應(yīng)的實(shí)體分區(qū)嵌入矩陣，然后將訓(xùn)練節(jié)點(diǎn)內(nèi)存中的實(shí)體嵌入矩陣列表Embs中的矩陣加載到GPU上進(jìn)行訓(xùn)練，訓(xùn)練完成后將加載到GPU上的矩陣傳回內(nèi)存，并通知數(shù)據(jù)加載進(jìn)程三元組塊訓(xùn)練結(jié)束，由數(shù)據(jù)加載進(jìn)程將訓(xùn)練完成的分區(qū)嵌入矩陣存儲(chǔ)至共享文件系統(tǒng)；

第五步，計(jì)算集群加載訓(xùn)練后的嵌入模型，基于訓(xùn)練后的嵌入模型進(jìn)行知識(shí)圖譜鏈接預(yù)測(cè)；方法是：

步驟5.1將N個(gè)服務(wù)器作為預(yù)測(cè)節(jié)點(diǎn)，選擇任意一個(gè)服務(wù)器作為查詢節(jié)點(diǎn)；將第四步訓(xùn)練后的嵌入模型即共享文件系統(tǒng)中的實(shí)體子分區(qū)嵌入矩陣和關(guān)系嵌入矩陣加載到服務(wù)器中；具體方法如下：

步驟5.1.1在查詢節(jié)點(diǎn)中，根據(jù)集群中服務(wù)器數(shù)量N，從共享文件系統(tǒng)中讀取subP個(gè)實(shí)體子分區(qū)嵌入矩陣subEmbs¹，subEmbs²，...，subsEmb^ip，...，subEmbs^subP；

步驟5.1.2查詢結(jié)點(diǎn)將子分區(qū)集subpart中的subP個(gè)集合，按照subpart中的順序拼接成實(shí)體集E，將對(duì)應(yīng)的subP實(shí)體子分區(qū)嵌入矩陣在行方向上拼接成實(shí)體嵌入矩陣Embs_all，Embs_all為一個(gè)num_entities行D列的矩陣；

步驟5.1.3查詢結(jié)點(diǎn)將實(shí)體集E中的元素按照當(dāng)前順序均勻分割為N個(gè)實(shí)體分區(qū)Parts₁，...，Parts_N，將實(shí)體嵌入矩陣Embs_all在行方向上均勻分割為N個(gè)實(shí)體分區(qū)嵌入矩陣Embs¹，Embs²，...，Embs^N；查詢節(jié)點(diǎn)將第1個(gè)分區(qū)Parts_n1和第1個(gè)分區(qū)嵌入矩陣Embs¹發(fā)送給第1個(gè)服務(wù)器，…，將第n個(gè)分區(qū)Parts_n和第n個(gè)分區(qū)嵌入矩陣Embsⁿ發(fā)送給第n個(gè)服務(wù)器，…，將第N個(gè)分區(qū)Parts_N和第N個(gè)分區(qū)嵌入矩陣Embs^N發(fā)送給第N個(gè)服務(wù)器；

步驟5.1.4N臺(tái)服務(wù)器從共享文件系統(tǒng)讀取關(guān)系嵌入矩陣θ，將θ加載到N臺(tái)服務(wù)器的內(nèi)存中；

步驟5.2進(jìn)行鏈接預(yù)測(cè)，方法是：

步驟5.2.1查詢節(jié)點(diǎn)接收用戶從終端輸入的缺失三元組(e_hh，rr，？)，查詢節(jié)點(diǎn)從矩陣Embs_all讀取e_hh的嵌入向量emb_hh，并發(fā)送給N個(gè)預(yù)測(cè)節(jié)點(diǎn)；

步驟5.2.3N個(gè)服務(wù)器并行預(yù)測(cè)，第n臺(tái)服務(wù)器的預(yù)測(cè)過(guò)程是：

步驟5.2.3.1第n臺(tái)服務(wù)器從分區(qū)Part_n取出所有的實(shí)體和實(shí)體e_hh組成三元組，得到三元組集{(e_hh，rr，e_tt′)|，e_tt′∈Part_n}；

步驟5.2.3.2按照嵌入模型中的得分函數(shù)，計(jì)算三元組集中所有三元組的得分，并按照得分對(duì)三元組集{(e_hh，rr，e_tt′)|e_tt′∈Part_n}中的元素進(jìn)行排序，選取{(e_hh，rr，e_tt′)|e_tt′∈Part_n}中得分最大的C個(gè)三元組作為候選三元組集合CT_n，對(duì)應(yīng)的得分集為Score_n，得分集Score_n中的元素為候選三元組集合CT_n中三元組的得分，C為正整數(shù)；

步驟5.2.3.3將候選三元組集合CT_n及Score_n發(fā)送給查詢節(jié)點(diǎn)；

步驟5.2.4查詢節(jié)點(diǎn)接受N個(gè)預(yù)測(cè)節(jié)點(diǎn)發(fā)送的候選三元組集和得分集，得到CT₁，CT₂，...，CT_n，...，CT_N和Score₁，Score₂，...，Score_n，...Score_N，將CT₁，CT₂，...，CT_n，...，CT_N合并為CT，Score₁，Score₂，...，Score_n，...Score_N合并為Score，CT為C×N個(gè)候選三元組，Score為C×N個(gè)三元組的得分，按照得分Score對(duì)CT進(jìn)行排序，再次選擇出最大的C個(gè)候選三元組{(e_hh，rr，e_it)|0≤it＜C}，e_it表示得分最大的C個(gè)候選三元組中第it個(gè)三元組對(duì)應(yīng)的尾實(shí)體，C個(gè)候選三元組對(duì)應(yīng)的實(shí)體集{e_it|0≤it＜C}作為鏈接預(yù)測(cè)的最終結(jié)果，為缺失三元組(e_hh，rr，？)的中缺失實(shí)體“？”的候選實(shí)體集。