[發(fā)明專利]多元關(guān)系生成模型的訓(xùn)練方法、裝置、電子設(shè)備及介質(zhì)

有效

• 申請?zhí)枺?/td>: 202011520491.4
• 申請日: 2020-12-21
• 公開（公告）號: CN112507040B
• 公開（公告）日: 2023-08-08
• 發(fā)明（設(shè)計(jì)）人: 王泉;王海峰;呂雅娟;朱勇
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06F16/28
• 分類號: G06F16/28;G06F16/36;G06F40/30;G06N3/0464;G06N3/08
• 代理公司: 北京清亦華知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 韓海花

1.一種多元關(guān)系生成模型的訓(xùn)練方法，包括：

獲取多個(gè)知識條目文本；

對所述知識條目文本進(jìn)行語義解析，以得到所述知識條目文本之中的所述多個(gè)實(shí)體；

從所述多個(gè)實(shí)體中，確定出主屬性和輔助屬性；

確定與所述主屬性對應(yīng)的主內(nèi)容，和與所述輔助屬性對應(yīng)的輔助內(nèi)容；以及

將所述主內(nèi)容和所述輔助內(nèi)容作為語義信息；

分別將所述實(shí)體、所述主屬性、所述輔助屬性、所述主內(nèi)容，以及所述輔助內(nèi)容映射為對應(yīng)的節(jié)點(diǎn)；

分別采用所述實(shí)體、所述主屬性、所述輔助屬性、所述主內(nèi)容，以及所述輔助內(nèi)容的詞性，描述所對應(yīng)節(jié)點(diǎn)的詞性；

在具有對應(yīng)關(guān)系的節(jié)點(diǎn)之間構(gòu)建邊；

根據(jù)所述邊所連接節(jié)點(diǎn)對應(yīng)的詞性，形成所述邊的詞性類型；以及

采用所述詞性類型對所述邊進(jìn)行標(biāo)注，以根據(jù)所述節(jié)點(diǎn)、所述邊，以及所述邊的標(biāo)注構(gòu)建所述異構(gòu)圖；以及

將所述異構(gòu)圖中各個(gè)節(jié)點(diǎn)和邊，以及節(jié)點(diǎn)和邊攜帶的多種維度的特征或?qū)傩暂斎胫脸跏嫉娜斯ぶ悄芫W(wǎng)絡(luò)模型中，直至所述初始的人工智能網(wǎng)絡(luò)模型收斂，將訓(xùn)練得到的人工智能網(wǎng)絡(luò)模型作為多元關(guān)系生成模型。

2.根據(jù)權(quán)利要求1所述的方法，所述初始的人工智能網(wǎng)絡(luò)模型包括輸入表征層，圖注意力層，以及線性預(yù)測層，其中，所述將所述異構(gòu)圖中各個(gè)節(jié)點(diǎn)和邊，以及節(jié)點(diǎn)和邊攜帶的多種維度的特征或?qū)傩暂斎胫脸跏嫉娜斯ぶ悄芫W(wǎng)絡(luò)模型中，直至所述初始的人工智能網(wǎng)絡(luò)模型收斂，將訓(xùn)練得到的人工智能網(wǎng)絡(luò)模型作為多元關(guān)系生成模型，包括：

將所述異構(gòu)圖輸入至所述輸入表征層之中，以得到所述輸入表征層輸出的與所述節(jié)點(diǎn)對應(yīng)的向量表示，所述向量表示，描述與所述節(jié)點(diǎn)對應(yīng)的內(nèi)容之間的語義關(guān)系；

將所述異構(gòu)圖輸入至所述圖注意力層之中，以得到所述圖注意力層輸出的與所述邊的詞性類型對應(yīng)的適配因子；

根據(jù)所述向量表示和所述適配因子輸入至所述線性預(yù)測層之中，以得到所述線性預(yù)測層輸出的預(yù)測多元關(guān)系；以及

根據(jù)所述預(yù)測多元關(guān)系和標(biāo)注多元關(guān)系訓(xùn)練所述初始的人工智能網(wǎng)絡(luò)模型，以得到多元關(guān)系生成模型。

3.根據(jù)權(quán)利要求2所述的方法，在所述將所述異構(gòu)圖輸入至所述圖注意力層之中，以得到所述圖注意力層輸出的與所述邊的詞性類型對應(yīng)的適配因子之后，還包括：

根據(jù)所述適配因子調(diào)整所述圖注意力層的注意力強(qiáng)度值。

4.根據(jù)權(quán)利要求2所述的方法，其中，所述根據(jù)所述預(yù)測多元關(guān)系和標(biāo)注多元關(guān)系訓(xùn)練所述初始的人工智能網(wǎng)絡(luò)模型，以得到多元關(guān)系生成模型，包括：

確定所述預(yù)測多元關(guān)系和標(biāo)注多元關(guān)系之間的損失值；

如果所述損失值滿足設(shè)定損失閾值，則將訓(xùn)練得到的人工智能網(wǎng)絡(luò)模型作為所述多元關(guān)系生成模型。

5.一種多元關(guān)系生成模型的訓(xùn)練裝置，包括：

獲取模塊，用于獲取多個(gè)知識條目文本；

解析模塊，用于對所述知識條目文本進(jìn)行語義解析，以得到所述知識條目文本之中的所述多個(gè)實(shí)體；從所述多個(gè)實(shí)體中，確定出主屬性和輔助屬性；確定與所述主屬性對應(yīng)的主內(nèi)容，和與所述輔助屬性對應(yīng)的輔助內(nèi)容；以及將所述主內(nèi)容和所述輔助內(nèi)容作為語義信息；

構(gòu)建模塊，用于分別將所述實(shí)體、所述主屬性、所述輔助屬性、所述主內(nèi)容，以及所述輔助內(nèi)容映射為對應(yīng)的節(jié)點(diǎn)；分別采用所述實(shí)體、所述主屬性、所述輔助屬性、所述主內(nèi)容，以及所述輔助內(nèi)容的詞性，描述所對應(yīng)節(jié)點(diǎn)的詞性；在具有對應(yīng)關(guān)系的節(jié)點(diǎn)之間構(gòu)建邊；根據(jù)所述邊所連接節(jié)點(diǎn)對應(yīng)的詞性，形成所述邊的詞性類型；以及采用所述詞性類型對所述邊進(jìn)行標(biāo)注，以根據(jù)所述節(jié)點(diǎn)、所述邊，以及所述邊的標(biāo)注構(gòu)建所述異構(gòu)圖；以及

訓(xùn)練模塊，用于將所述異構(gòu)圖中各個(gè)節(jié)點(diǎn)和邊，以及節(jié)點(diǎn)和邊攜帶的多種維度的特征或?qū)傩暂斎胫脸跏嫉娜斯ぶ悄芫W(wǎng)絡(luò)模型中，直至所述初始的人工智能網(wǎng)絡(luò)模型收斂，將訓(xùn)練得到的人工智能網(wǎng)絡(luò)模型作為多元關(guān)系生成模型。