[發明專利]一種面向搜索引擎知識庫的智能問答方法

有效

• 申請號: 202110972592.3
• 申請日: 2021-08-24
• 公開（公告）號: CN113688217B
• 公開（公告）日: 2022-04-22
• 發明（設計）人: 舒明雷;劉浩;周書旺;高天雷;許繼勇
• 申請（專利權）人: 山東省人工智能研究院;齊魯工業大學
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/953;G06N3/04;G06N3/08;G06N5/02;G06N5/04
• 代理公司: 濟南泉城專利商標事務所 37218
• 代理人: 支文彬

1.一種面向搜索引擎知識庫的智能問答方法，其特征在于，包括如下步驟：

a)設定搜索引擎中搜索的問題和對應的答案，通過自然語言處理工具得到問題的實體e_s和問題的查詢關系r_q，將問題對應的答案設為e_o，利用自然語言處理Embedding將問題的實體e_s、查詢關系r_q以及答案e_o映射到稠密的低緯度向量空間中，得到問題的實體的向量表示ε_s、查詢關系的向量表示γ_q及答案的實體的向量表示ε_o；

b)根據搜索問題抽取的實體e_s和關系r_q，將基于搜索引擎知識庫的推理問題答案的路徑定義為((r₀,e_s),(r₁,e₁),…,(r_n,e_n))，其中e_i,i＝1,...,n表示路徑中的第i個實體，n為最大推理路徑長度，r_i,i＝1,...,n表示推理路徑中第i個關系，r₀為引入的冗余關系，r₀與問題的實體e_s一起構成動作，將在搜索引擎知識庫搜索過程中遍歷的實體e和關系r組成的元組(e,r)定義為動作a，所有動作的集合定義為動作空間A；

c)將搜索引擎知識庫中的搜索路徑的動作a通過自然語言處理的Embedding技術映射到稠密的低維度向量空間，得到動作a對應的向量表示α＝(γ；ε)，其中“;”為向量的拼接操作，γ為關系r的向量表示，ε為實體e的向量表示，將t時間步對應的動作a的向量α_t輸入到長短期記憶網絡LSTM，通過公式h_t＝LSTM(h_t-1,α_t)得到在t時間步對應的歷史記憶信息的向量表示h_t，式中h_t-1為t-1時間步對應的歷史記憶信息的向量表示；

d)通過公式計算得到t時間步對應的動作空間A_t所對應的動作分數π_θ(a_t)，式中為動作空間A_t經過自然語言處理Embedding映射的向量表示，W₁和W₂為網絡模型的權重，Relu(·)為ReLU函數，softmax(·)為softmax函數，為矩陣乘積，ε_t為搜索引擎知識庫的推理問題答案的路徑第t時間對應的向量表示，選擇最大動作分數所對應的動作記為其中為最大動作分數的動作a對應的關系，為最大動作分數的動作a對應的實體；

e)基于搜索引擎知識庫，重復步驟c)至步驟d)，將得到推理搜索路徑形式化定義為其中為在時間步為i最大動作分數對應的動作元組，i＝1,...,n，為第i時間步最大動作分數對應的關系，為第i時間步最大動作分數對應的實體；

f)基于搜索引擎知識庫的搜索路徑，設置當前的推理搜索路徑對應的推理答案的獎勵值R_t，如果推理出來的答案等于問題對應的答案e_o，則獎勵值R_t為1，如果推理出來的答案不等于問題對應的答案e_o，則通過公式計算獎勵值R_t，式中d為余弦相似度函數，為通過Embedding得到的向量表示，為通過Embedding得到的向量表示；

g)通過公式計算得到整個基于搜索引擎知識庫的推理問題答案的路徑上的最大獎勵值R_u；

h)參數梯度定義為其中為對網絡模型參數θ求梯度，式中R＝R_u,T＝u，T為最大獎勵值對應的時間戳，通過反向梯度傳播，實現對LSTM網絡和前饋神經網絡的參數優化；

i)基于搜索引擎知識庫，在整個問題和對應的答案的數據集上重復步驟a)至步驟h)，完成模型訓練，得到對問題具有預測和推理能力的多跳推理模型；

j)在多跳推理模型中輸入某一問題，如果該問題有明確的問題答案，則經步驟a)至步驟f)得到推理的問題答案判斷推理出問題答案是否等于真實問題答案，如果該問題沒有對照的問題答案，設置搜索推理路徑對問題答案的判斷條件為其中λ為超參數，如果判斷條件成立，則預測答案實體向量ε_t對應的預測答案實體e_t為該搜索問題的答案，退出推理過程。