[發明專利]詞嵌入表示學習方法及裝置、文本召回方法及裝置

在審

• 申請號: 202010961808.1
• 申請日: 2020-09-14
• 公開（公告）號: CN112100332A
• 公開（公告）日: 2020-12-18
• 發明（設計）人: 張雨春;翁澤峰;翟彬旭;張東于;范云霓
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F40/289
• 代理公司: 深圳市隆天聯鼎知識產權代理有限公司 44232
• 代理人: 葉虹

本公開提供了一種詞嵌入表示學習方法及裝置、文本召回方法及裝置，涉及人工智能領域。詞嵌入表示學習方法包括：獲取文本語料，對所述文本語料進行分詞處理，并基于得到的分詞和所述分詞對應的發音信息構建圖結構；以所述圖結構中的各節點為初始節點，隨機游走獲取與所述初始節點對應的節點序列；根據所述節點序列對詞嵌入表示模型進行訓練以獲取詞嵌入查找表，并基于所述詞嵌入查找表確定與所述文本語料對應的詞嵌入表示。本公開能夠根據分詞和發音信息構建圖，并基于圖結構訓練詞嵌入，使得詞形學接近的詞語在詞嵌入空間中具有相近的距離，避免了輸入錯誤導致的召回文本錯誤的問題，提高了召回效率和召回質量，進而提升了用戶體驗。

技術領域

本公開涉及自然語言處理技術領域，具體而言，涉及一種詞嵌入表示學習方法、詞嵌入表示學習裝置、文本召回方法、文本召回裝置、計算機可讀存儲介質及電子設備。

背景技術

詞嵌入(word embedding)又稱詞向量，詞表征、文本表征等，是自然語言處理(NLP)中語言模型與表征學習技術的統稱，它是指把一個維數為所有詞的數量的高維空間嵌入到一個維數低得多的連續向量空間中，每個單詞或詞組被映射為實數域上的向量。

在根據搜索字符串進行信息召回時，用戶可能會由于疏忽使得搜索字符串中存在錯別字符，例如用戶想要輸入的搜索字符串是“新冠肺炎”，但是實際輸入的搜索字符串是“新官肺炎”，如果嚴格按照包含錯別字符的搜索字符串進行召回時，就會出現召回結果錯誤或者召回結果不完整的情況，缺少與正確的搜索字符串對應的召回結果，降低了用戶體驗。

需要說明的是，在上述背景技術部分公開的信息僅用于加強對本公開的背景的理解，因此可以包括不構成對本領域普通技術人員已知的現有技術的信息。

發明內容

本公開的實施例提供了一種詞嵌入表示學習方法、詞嵌入表示學習裝置、文本召回方法、文本召回裝置、計算機可讀存儲介質及電子設備，進而至少在一定程度上可以使詞形學相近的詞語在向量空間擁有相近的距離，進而提高召回的精準度和完整性。

本公開的其他特性和優點將通過下面的詳細描述變得顯然，或部分地通過本公開的實踐而習得。

根據本公開實施例的一個方面，提供了一種詞嵌入表示學習方法，包括：獲取文本語料，對所述文本語料進行分詞處理，并基于得到的分詞和所述分詞對應的發音信息構建圖結構；以所述圖結構中的各節點為初始節點，隨機游走獲取與所述初始節點對應的節點序列；根據所述節點序列對詞嵌入表示模型進行訓練以獲取詞嵌入查找表，并基于所述詞嵌入查找表確定與所述文本語料對應的詞嵌入表示。

根據本公開實施例的一個方面，提供了一種詞嵌入表示學習裝置，包括：圖構建模塊，用于獲取文本語料，對所述文本語料進行分詞處理，并基于得到的分詞和所述分詞對應的發音信息構建圖結構；采樣模塊，用于以所述圖結構中的各節點為初始節點，隨機游走獲取與所述初始節點對應的節點序列；詞嵌入獲取模塊，用于根據所述節點序列對詞嵌入表示模型進行訓練以獲取詞嵌入查找表，并基于所述詞嵌入查找表確定與所述文本語料對應的詞嵌入表示。

根據本公開實施例的一個方面，提供了一種文本召回方法，包括：獲取搜索字符串，對所述搜索字符串進行分詞處理，以獲取搜索分詞；根據所述搜索分詞在詞嵌入查找表中進行查詢，以獲取與所述搜索分詞對應的詞嵌入，所述詞嵌入查找表是根據上述實施例中的詞嵌入表示學習方法所獲取的詞嵌入查找表；根據所有所述搜索分詞對應的詞嵌入獲取與所述搜索字符串對應的搜索向量，并根據所述搜索向量和候選文本對應的文本向量確定召回文本。