[發(fā)明專利]基于知識圖譜和Transformer的專利推薦方法

有效

• 申請?zhí)枺?/td>: 201910831234.3
• 申請日: 2019-09-04
• 公開（公告）號: CN110737778B
• 公開（公告）日: 2022-05-31
• 發(fā)明（設(shè)計(jì)）人: 歐中洪;劉科孟;吳金盛;譚言信;宋美娜;宋俊德
• 申請（專利權(quán)）人: 北京郵電大學(xué)
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F16/9535;G06F40/295;G06N3/04;G06N3/08;G06Q50/18
• 代理公司: 北京清亦華知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 王艷斌

1.一種基于知識圖譜和Transformer的專利推薦方法，其特征在于，包括以下步驟：

爬取專利資源庫得到專利信息和用戶信息，并根據(jù)所述專利信息和所述用戶信息構(gòu)建知識圖譜；

通過圖卷積網(wǎng)絡(luò)和注意力機(jī)制的混合模型挖掘所述知識圖譜，得到用戶和專利的內(nèi)容特征表示向量；

通過Transformer模型挖掘所述用戶信息，得到用戶歷史偏好的序列特征向量，其中，包括：提取所述用戶信息中的用戶行為記錄；采用所述Transformer模型對所述用戶行為記錄進(jìn)行建模，挖掘出所述序列特征向量；

將所述內(nèi)容特征表示向量和所述序列特征向量級聯(lián)結(jié)合，輸入所述Transformer模型的Softmax層進(jìn)行計(jì)算，得到多個候選專利被推薦的概率值；

對所述多個候選專利被推薦的概率值進(jìn)行Top-k排序，得到Top-k個專利作為目標(biāo)用戶的推薦結(jié)果。

2.根據(jù)權(quán)利要求1所述的基于知識圖譜和Transformer的專利推薦方法，其特征在于，所述知識圖譜包括專利領(lǐng)域知識圖譜和用戶-訪問-專利三元組。

3.根據(jù)權(quán)利要求2所述的基于知識圖譜和Transformer的專利推薦方法，其特征在于，所述通過圖卷積網(wǎng)絡(luò)和注意力機(jī)制的混合模型挖掘所述知識圖譜，得到用戶和專利的內(nèi)容特征表示向量，包括：

通過圖卷積網(wǎng)絡(luò)分別提取所述專利領(lǐng)域知識圖譜中的用戶屬性、專利屬性和用戶與專利之間的關(guān)聯(lián)實(shí)體信息；

根據(jù)所述用戶屬性、專利屬性和用戶與專利之間的關(guān)聯(lián)實(shí)體信息模擬由外向內(nèi)的信息傳播路徑；

通過所述注意力機(jī)制對所述用戶-訪問-專利三元組進(jìn)行處理，獲得所述信息傳播路徑的對應(yīng)權(quán)重，進(jìn)而得到所述內(nèi)容特征表示向量。

4.根據(jù)權(quán)利要求3所述的基于知識圖譜和Transformer的專利推薦方法，其特征在于，所述內(nèi)容特征表示向量包括用戶內(nèi)容特征向量和候選專利內(nèi)容特征向量。