[發明專利]關鍵詞生成方法、裝置、設備及存儲介質在審
| 申請號: | 202011505008.5 | 申請日: | 2020-12-18 |
| 公開(公告)號: | CN112528655A | 公開(公告)日: | 2021-03-19 |
| 發明(設計)人: | 姚開春;秦川;祝恒書;馬超;張敬帥 | 申請(專利權)人: | 北京百度網訊科技有限公司 |
| 主分類號: | G06F40/289 | 分類號: | G06F40/289;G06F40/30;G06N3/04;G06N3/08 |
| 代理公司: | 北京同立鈞成知識產權代理有限公司 11205 | 代理人: | 鈄颯颯;劉芳 |
| 地址: | 100085 北京市*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 關鍵詞 生成 方法 裝置 設備 存儲 介質 | ||
1.一種關鍵詞生成方法,所述方法包括:
將目標文本輸入文本處理模型,獲取目標文本對應的單詞序列,并生成所述單詞序列對應的語義表征序列;
分別對所述語義表征序列中的每個語義表征向量進行預測,得到預測結果;
若預測結果指示所述語義表征向量對應的單詞能夠觸發生成關鍵詞,則根據所述語義表征向量、所述預測結果輸出所述關鍵詞。
2.根據權利要求1所述的方法,所述獲取目標文本對應的單詞序列,并生成所述單詞序列對應的語義表征序列,包括:
對所述目標文本進行分詞處理,得到所述目標文本對應的單詞序列;
確定所述單詞序列對應詞向量序列;
采用雙向長短期記憶編碼器對所述詞向量序列進行編碼,獲得對應的語義表征序列。
3.根據權利要求2所述的方法,所述分別對所述語義表征序列中的每個語義表征向量進行預測,得到預測結果,包括:
所述文本處理模型中的關鍵詞指示器依次掃描所述語義表征序列中的每個語義表征向量;
根據所述關鍵詞指示器上一個時刻的狀態、所述關鍵詞指示器上一個時刻的預測結果的嵌入式向量以及所述語義表征向量確定所述關鍵詞指示器當前時刻的狀態;
根據所述關鍵詞指示器當前時刻的狀態,確定所述語義表征向量觸發技能短語的概率,并根據所述概率確定所述關鍵詞指示器的預測結果,所述預測結果包括所述語義表征向量不能觸發生成技能短語、所述語義表征向量能夠觸發生成由連續單詞構成的技能短語,或者所述語義表征向量能夠觸發生成由非連續單詞構成的技能短語。
4.根據權利要求3所述的方法,所述根據所述語義表征向量、所述預測結果輸出所述關鍵詞,包括:
解碼器根據所述語義表征向量、所述關鍵詞指示器的預測結果的嵌入式向量和所述關鍵詞指示器的狀態確定所述解碼器的初始隱狀態;
基于所述初始隱狀態逐步確定每個解碼步的隱狀態,并對每個解碼步的隱狀態進行解碼生成所述關鍵詞。
5.根據權利要求4所述的方法,所述基于所述初始隱狀態逐步確定每個解碼步的隱狀態,包括:
對于第一個解碼步,根據所述初始隱狀態、所述關鍵詞指示器的預測結果的嵌入式向量以及默認初始字符的嵌入式向量,確定第一個解碼步的隱狀態;
對于第一個解碼步之后的每個解碼步,根據所述解碼器上一個解碼步的隱狀態、所述關鍵詞指示器的預測結果的嵌入式向量以及上一個解碼步的解碼結果的嵌入式向量,確定所述每個解碼步的隱狀態。
6.根據權利要求4所述的方法,所述對每個解碼步的隱狀態進行解碼生成所述關鍵詞,包括:
確定所述語義表征向量對所述每個解碼步的隱狀態的相關度,并根據所述相關度確定所述每個解碼步的注意力分布;
根據所述每個解碼步的注意力分布和所述語義表征序列確定所述每個解碼步的隱狀態的語義向量;
根據所述每個解碼步的隱狀態和所述每個解碼步的隱狀態的語義向量,確定所述每個解碼步的單詞初始概率;
根據所述初始概率和所述注意力分布確定所述每個解碼步的單詞概率;
根據所述單詞概率確定所述每個解碼步的解碼結果。
7.根據權利要求4-6中任一項所述的方法,所述方法還包括:
根據所述關鍵詞指示器的預測結果和所述解碼器生成的關鍵詞,確定所述關鍵詞指示器的獎勵值和所述解碼器的獎勵值,所述關鍵詞指示器的獎勵值用于表示所述關鍵詞指示器的預測結果的準確度,所述解碼器的獎勵值用于表示所述解碼器生成的關鍵詞的準確度;
調整所述編碼器、所述關鍵詞指示器和所述解碼器中的參數,以使所述關鍵詞指示器的獎勵值的期望值和所述解碼器的獎勵值的期望值達到最大值。
8.根據權利要求7所述的方法,所述關鍵詞指示器的獎勵值和所述解碼器的獎勵值均包括了每觸發一個關鍵詞對應的獎勵值以及所有關鍵詞對應的獎勵值。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于北京百度網訊科技有限公司,未經北京百度網訊科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202011505008.5/1.html,轉載請聲明來源鉆瓜專利網。





