[發(fā)明專利]一種知識(shí)抽取方法、裝置、設(shè)備和介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202010312552.1
• 申請(qǐng)日: 2020-04-20
• 公開（公告）號(hào): CN111522928B
• 公開（公告）日: 2023-06-23
• 發(fā)明（設(shè)計(jì)）人: 李旭;孫明明;李平;劉桂良
• 申請(qǐng)（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號(hào): G06F16/332
• 分類號(hào): G06F16/332;G06F16/33;G06F16/9532
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種知識(shí)抽取方法，其特征在于，包括：

獲取輸入文本、預(yù)先訓(xùn)練的預(yù)測(cè)器和獎(jiǎng)勵(lì)擬合器，其中，所述預(yù)測(cè)器用于對(duì)輸入文本進(jìn)行序列預(yù)測(cè)，確定輸出的預(yù)測(cè)序列的每個(gè)位置上預(yù)置單詞表中所有單詞的概率，所述獎(jiǎng)勵(lì)擬合器用于根據(jù)輸入文本和所述預(yù)測(cè)器輸出的預(yù)測(cè)序列中的至少一個(gè)知識(shí)進(jìn)行擬合，并將擬合的結(jié)果作為獎(jiǎng)勵(lì)；

依據(jù)強(qiáng)化學(xué)習(xí)的方法，對(duì)所述輸入文本的輸出文本序列的狀態(tài)空間進(jìn)行搜索，并在搜索過程中，根據(jù)所述預(yù)測(cè)器輸出的所述預(yù)測(cè)序列中與各時(shí)間步下每個(gè)狀態(tài)對(duì)應(yīng)的下一個(gè)位置上所述所有單詞的概率，和所述獎(jiǎng)勵(lì)擬合器對(duì)應(yīng)擬合得到的獎(jiǎng)勵(lì)，確定各時(shí)間步下每個(gè)狀態(tài)選擇的動(dòng)作，其中，所述狀態(tài)空間表示所述預(yù)置單詞表中所有單詞在一個(gè)序列上的排列組合，所述獎(jiǎng)勵(lì)表示當(dāng)前選擇要執(zhí)行的動(dòng)作對(duì)下一個(gè)狀態(tài)而言具有的價(jià)值；

根據(jù)對(duì)所述狀態(tài)空間的搜索結(jié)果，確定各時(shí)間步下的目標(biāo)動(dòng)作，并根據(jù)各時(shí)間步下的目標(biāo)動(dòng)作確定目標(biāo)輸出文本序列，其中，所述目標(biāo)輸出文本序列中包括至少一個(gè)知識(shí)；

其中，所述知識(shí)抽取方法整體建模為一個(gè)馬爾科夫決策過程，輸入的是所述輸入文本的序列，輸出的是所述目標(biāo)輸出文本序列，由多個(gè)單詞組成。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述對(duì)所述輸入文本的輸出文本序列的狀態(tài)空間進(jìn)行搜索，包括：

利用蒙特卡洛樹搜索算法，對(duì)所述輸入文本的輸出文本序列的狀態(tài)空間進(jìn)行搜索。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，在所述蒙特卡洛樹搜索算法中，樹的節(jié)點(diǎn)表示狀態(tài)，每個(gè)節(jié)點(diǎn)保存有狀態(tài)轉(zhuǎn)移時(shí)執(zhí)行的動(dòng)作、歷史上該節(jié)點(diǎn)被選擇的次數(shù)、該節(jié)點(diǎn)的價(jià)值以及由所述預(yù)測(cè)器輸出的所述預(yù)測(cè)序列中與該節(jié)點(diǎn)的狀態(tài)對(duì)應(yīng)的下一個(gè)位置上所述執(zhí)行的動(dòng)作的概率；

其中，對(duì)于非葉子節(jié)點(diǎn)，所述價(jià)值是該節(jié)點(diǎn)的子樹上所有節(jié)點(diǎn)的價(jià)值的均值；對(duì)于葉子節(jié)點(diǎn)，所述價(jià)值是所述獎(jiǎng)勵(lì)擬合器根據(jù)所述輸入文本和所述預(yù)測(cè)器在當(dāng)前狀態(tài)下的預(yù)測(cè)序列中的至少一個(gè)知識(shí)進(jìn)行擬合得到的獎(jiǎng)勵(lì)。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述在搜索過程中，根據(jù)所述預(yù)測(cè)器輸出的所述預(yù)測(cè)序列中與各時(shí)間步下每個(gè)狀態(tài)對(duì)應(yīng)的下一個(gè)位置上所述所有單詞的概率，和所述獎(jiǎng)勵(lì)擬合器對(duì)應(yīng)擬合得到的獎(jiǎng)勵(lì)，確定各時(shí)間步下每個(gè)狀態(tài)選擇的動(dòng)作，包括：

在任意當(dāng)前時(shí)間步的當(dāng)前狀態(tài)下，獲取當(dāng)前狀態(tài)節(jié)點(diǎn)的下一層各候選節(jié)點(diǎn)對(duì)應(yīng)的所述概率和所述價(jià)值；

根據(jù)各候選節(jié)點(diǎn)被選擇的次數(shù)、所述概率和所述價(jià)值進(jìn)行計(jì)算，將計(jì)算結(jié)果中值最大的候選節(jié)點(diǎn)保存的所述狀態(tài)轉(zhuǎn)移時(shí)執(zhí)行的動(dòng)作，作為所述當(dāng)前狀態(tài)下選擇的動(dòng)作。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述根據(jù)對(duì)所述狀態(tài)空間的搜索結(jié)果，確定各時(shí)間步下的目標(biāo)動(dòng)作，并根據(jù)各時(shí)間步下的目標(biāo)動(dòng)作確定目標(biāo)輸出文本序列，包括：

在所述當(dāng)前時(shí)間步的根節(jié)點(diǎn)狀態(tài)下，對(duì)所述狀態(tài)空間中的各候選預(yù)測(cè)序列執(zhí)行所述搜索過程，并在執(zhí)行次數(shù)滿足預(yù)設(shè)條件時(shí)，根據(jù)從所述當(dāng)前時(shí)間步的根節(jié)點(diǎn)出發(fā)的所有路徑上節(jié)點(diǎn)的訪問次數(shù)的概率分布，確定所述當(dāng)前時(shí)間步的根節(jié)點(diǎn)選擇的目標(biāo)動(dòng)作；

將所述當(dāng)前時(shí)間步的根節(jié)點(diǎn)選擇所述目標(biāo)動(dòng)作后轉(zhuǎn)移到的狀態(tài)節(jié)點(diǎn)，作為下一時(shí)間步的根節(jié)點(diǎn)，并在該下一時(shí)間步的根節(jié)點(diǎn)狀態(tài)下重復(fù)執(zhí)行所述搜索過程，確定該下一時(shí)間步的根節(jié)點(diǎn)選擇的目標(biāo)動(dòng)作，直到搜索至具有序列終結(jié)標(biāo)志的根節(jié)點(diǎn)為止；

根據(jù)各時(shí)間步的根節(jié)點(diǎn)選擇的目標(biāo)動(dòng)作確定所述目標(biāo)輸出文本序列。