[發(fā)明專利]表示學(xué)習(xí)方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 201810822334.5
• 申請(qǐng)日: 2018-07-24
• 公開(kāi)（公告）號(hào): CN110851609A
• 公開(kāi)（公告）日: 2020-02-28
• 發(fā)明（設(shè)計(jì)）人: 賈巖濤;劉冬;李馮福
• 申請(qǐng)（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號(hào): G06F16/36
• 分類號(hào): G06F16/36
• 代理公司: 北京中博世達(dá)專利商標(biāo)代理有限公司 11274
• 代理人: 申健

1.一種表示學(xué)習(xí)方法，其特征在于，所述方法包括：

根據(jù)融合文本的知識(shí)圖譜的三元組中實(shí)體的類型，確定所述實(shí)體的類型表示向量，所述實(shí)體包括頭實(shí)體和尾實(shí)體；

根據(jù)所述三元組中關(guān)系的類型，確定所述關(guān)系的類型表示向量；

根據(jù)所述實(shí)體的文本信息，確定所述實(shí)體的上下文表示向量；

根據(jù)所述關(guān)系的權(quán)重值，確定所述關(guān)系的上下文表示向量；

根據(jù)所述實(shí)體的類型表示向量、所述實(shí)體的上下文表示向量、所述關(guān)系的類型表示向量以及所述關(guān)系的上下文表示向量，構(gòu)建所述三元組的打分函數(shù)；

根據(jù)所述三元組的打分函數(shù)，構(gòu)建目標(biāo)函數(shù)；

最小化所述目標(biāo)函數(shù)，學(xué)習(xí)所述實(shí)體的表示向量和所述關(guān)系的表示向量。

2.根據(jù)權(quán)利要求1所述的表示學(xué)習(xí)方法，其特征在于，在所述根據(jù)融合文本的知識(shí)圖譜的三元組中實(shí)體的類型，確定所述實(shí)體的類型表示向量之前，所述方法還包括：

初始化所述頭實(shí)體的表示向量、所述尾實(shí)體的表示向量、所述關(guān)系的表示向量、實(shí)體類型表示矩陣、關(guān)系類型表示矩陣、詞表示矩陣以及權(quán)重值的表示向量。

3.根據(jù)權(quán)利要求2所述的表示學(xué)習(xí)方法，其特征在于，所述根據(jù)融合文本的知識(shí)圖譜的三元組中實(shí)體的類型，確定所述實(shí)體的類型表示向量，包括：

根據(jù)所述頭實(shí)體的類型，確定所述頭實(shí)體的類型標(biāo)識(shí)向量；

根據(jù)公式確定所述頭實(shí)體的類型表示向量；其中，f₁(h)表示所述頭實(shí)體的類型表示向量，W_etype表示所述實(shí)體類型表示矩陣，v_etype(h)表示所述頭實(shí)體的類型標(biāo)識(shí)向量；

根據(jù)所述尾實(shí)體的類型，確定所述尾實(shí)體的類型標(biāo)識(shí)向量；

根據(jù)公式確定所述尾實(shí)體的類型表示向量；其中，f₁(t)表示所述尾實(shí)體的類型表示向量，v_etype(t)表示所述尾實(shí)體的類型標(biāo)識(shí)向量。

4.根據(jù)權(quán)利要求2所述的表示學(xué)習(xí)方法，其特征在于，所述根據(jù)所述三元組中關(guān)系的類型，確定所述關(guān)系的類型表示向量，包括：

根據(jù)所述關(guān)系的類型，確定所述關(guān)系的類型標(biāo)識(shí)向量；

根據(jù)公式：確定所述關(guān)系的類型表示向量；其中，g₁(r)表示所述關(guān)系的類型表示向量，W_rtype表示所述關(guān)系類型表示矩陣，v_rtype(r)表示所述關(guān)系的類型標(biāo)識(shí)向量。

5.根據(jù)權(quán)利要求2所述的表示學(xué)習(xí)方法，其特征在于，所述根據(jù)所述實(shí)體的文本信息，確定所述實(shí)體的上下文表示向量，包括：

根據(jù)所述頭實(shí)體的文本信息，確定與所述頭實(shí)體相關(guān)的詞；

根據(jù)公式：確定所述頭實(shí)體的上下文表示向量；其中，f₂(h)表示所述頭實(shí)體的上下文表示向量，α、β為取值在0到1之間的常數(shù)，v_h表示所述頭實(shí)體的表示向量，w_i表示與所述頭實(shí)體相關(guān)的詞，ε₁表示所有與所述頭實(shí)體相關(guān)的詞構(gòu)成的集合，W_word表示詞表示矩陣，V_vocubalary(w_i)表示w_i的標(biāo)識(shí)向量；

根據(jù)所述尾實(shí)體的文本信息，確定與所述尾實(shí)體相關(guān)的詞；

根據(jù)公式：確定所述尾實(shí)體的上下文表示向量；其中，f₂(t)表示所述尾實(shí)體的上下文表示向量，v_t表示所述尾實(shí)體的表示向量，m_i表示與所述尾實(shí)體相關(guān)的詞，ε₂表示所有與所述尾實(shí)體相關(guān)的詞構(gòu)成的集合，V_vocubalary(m_i)表示m_i的標(biāo)識(shí)向量。