[發(fā)明專利]一種知識(shí)圖譜的構(gòu)建方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202010002624.2
• 申請(qǐng)日: 2020-01-02
• 公開(kāi)（公告）號(hào): CN111177393B
• 公開(kāi)（公告）日: 2023-03-24
• 發(fā)明（設(shè)計(jì)）人: 胡盼盼;趙茜;胡浩;周玥;佟博;謝曉婷;廖鳳玲;余梓玲
• 申請(qǐng)（專利權(quán)）人: 廣東博智林機(jī)器人有限公司
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F16/36
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種知識(shí)圖譜的構(gòu)建方法，其特征在于，包括：

將文案語(yǔ)料輸入至預(yù)先設(shè)計(jì)的序列標(biāo)注模型，以通過(guò)所述序列標(biāo)注模型識(shí)別所述文案語(yǔ)料中的各實(shí)體以及各實(shí)體的所屬類型；

對(duì)所述文案語(yǔ)料中的各實(shí)體進(jìn)行兩兩配對(duì)，生成至少一條實(shí)體關(guān)系特征信息，所述實(shí)體關(guān)系特征信息包括各實(shí)體的所屬類型；

將所述實(shí)體關(guān)系特征信息輸入至預(yù)先訓(xùn)練好的文本分類模型，以通過(guò)所述文本分類模型確定目標(biāo)實(shí)體與其它實(shí)體之間的關(guān)系；

基于所述目標(biāo)實(shí)體與其它實(shí)體之間的關(guān)系，以及各實(shí)體的所屬類型構(gòu)建知識(shí)圖譜；

所述對(duì)所述文案語(yǔ)料中的各實(shí)體進(jìn)行兩兩配對(duì)，生成至少一條實(shí)體關(guān)系特征信息，包括：

將第一實(shí)體本身以及其所屬類型、將第二實(shí)體本身以及其所屬類型、在所述文案語(yǔ)料中第一實(shí)體與第二實(shí)體之間的字詞、第一實(shí)體與第二實(shí)體之間的距離、第一實(shí)體的長(zhǎng)度以及第二實(shí)體的長(zhǎng)度組成一條實(shí)體關(guān)系特征信息；

其中，若在所述文案語(yǔ)料中第一實(shí)體與第二實(shí)體之間的字詞包括其它實(shí)體，則在所述實(shí)體關(guān)系特征信息的中對(duì)所述其它實(shí)體進(jìn)行遮蔽處理，以消除所述其它實(shí)體所帶來(lái)的語(yǔ)義干擾。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述序列標(biāo)注模型包括轉(zhuǎn)換編碼器和條件隨機(jī)場(chǎng)Transformer Encoder+CRF模型，所述文本分類模型包括長(zhǎng)短期記憶和自關(guān)注LSTM+self-attention模型。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述Transformer Encoder+CRF模型基于預(yù)先標(biāo)注標(biāo)簽的訓(xùn)練樣本進(jìn)行訓(xùn)練獲得，所采用的標(biāo)注方式為BIEO標(biāo)注方式，標(biāo)注標(biāo)簽包括實(shí)體標(biāo)簽以及實(shí)體的所屬類型標(biāo)簽。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述Transformer Encoder+CRF模型基于預(yù)先標(biāo)注的訓(xùn)練樣本進(jìn)行訓(xùn)練獲得，包括：

將各訓(xùn)練樣本轉(zhuǎn)換為詞向量的形式，得到各樣本向量；

將所述各樣本向量輸入網(wǎng)絡(luò)結(jié)構(gòu)Transformer Encoder，得到輸出矩陣P，其中，矩陣P的大小為n*k，其中k為標(biāo)注的標(biāo)簽數(shù)目，P_i，j表示第i個(gè)字被預(yù)測(cè)為第j個(gè)標(biāo)簽的分?jǐn)?shù)；

在CRF層，基于所述輸出矩陣P、標(biāo)簽轉(zhuǎn)移矩陣的初始值確定預(yù)測(cè)標(biāo)簽序列Y’，并結(jié)合標(biāo)簽序列真值Y對(duì)所述標(biāo)簽轉(zhuǎn)移矩陣的初始值進(jìn)行優(yōu)化，將優(yōu)化后的標(biāo)簽轉(zhuǎn)移矩陣確定為模型參數(shù)。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述將文案語(yǔ)料輸入至預(yù)先設(shè)計(jì)的序列標(biāo)注模型，以通過(guò)所述序列標(biāo)注模型識(shí)別所述文案語(yǔ)料中的各實(shí)體以及各實(shí)體的所屬類型，包括：

將文案語(yǔ)料轉(zhuǎn)換為詞向量的形式，得到文案語(yǔ)料向量；

將所述文案語(yǔ)料向量輸入至網(wǎng)絡(luò)結(jié)構(gòu)Transformer Encoder，得到預(yù)測(cè)矩陣q，q_i，j表示第i個(gè)字被預(yù)測(cè)為第j個(gè)標(biāo)簽的分?jǐn)?shù)；

基于所述預(yù)測(cè)矩陣q以及CRF層的標(biāo)簽轉(zhuǎn)移矩陣確定所述文案語(yǔ)料中每個(gè)字屬于任意標(biāo)簽的分?jǐn)?shù)；

針對(duì)每個(gè)字，將分?jǐn)?shù)最高的標(biāo)簽確定為當(dāng)前字的所屬標(biāo)簽，所述標(biāo)簽包括實(shí)體標(biāo)簽以及實(shí)體的所屬類型標(biāo)簽；

根據(jù)每個(gè)字的所屬標(biāo)簽確定所述文案語(yǔ)料中的各實(shí)體以及各實(shí)體的所屬類型。

6.根據(jù)權(quán)利要求1-4任一項(xiàng)所述的方法，其特征在于，所述各實(shí)體的所屬類型包括下述至少一種：小區(qū)、教育機(jī)構(gòu)、公共設(shè)施、醫(yī)院、銀行以及小區(qū)配套設(shè)施。