[發明專利]查詢文檔排序方法、裝置及電子設備

有效

• 申請號: 202011602065.5
• 申請日: 2020-12-30
• 公開（公告）號: CN112395405B
• 公開（公告）日: 2021-04-27
• 發明（設計）人: 張望舒;溫祖杰
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/338;G06F40/35
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 周嗣勇

本說明書一個或多個實施例提供一種查詢文檔排序方法、裝置及電子設備，包括：基于訓練樣本集對作為老師模型的第一排序模型進行有監督的訓練；其中，訓練樣本包括查詢問句和與查詢問句對應的查詢文檔，并被標注了指示查詢文檔與查詢問句是否匹配的標簽；第一排序模型包括對至少一個評分子模型進行模型融合得到的排序模型；評分子模型用于輸出查詢文檔對應于查詢問句的匹配度評分；基于第一排序模型輸出的與訓練樣本集對應的排序結果對作為學生模型的第二排序模型進行預訓練，并基于訓練樣本集對預訓練后的第二排序模型進行模型微調；其中，第一排序模型和第二排序模型用于按照匹配度評分對與同一查詢問句對應的多個查詢文檔進行排序。

技術領域

本說明書一個或多個實施例涉及計算機應用技術領域，尤其涉及一種查詢文檔排序方法、裝置及電子設備。

背景技術

在現實生活中，用戶在使用互聯網服務（例如：網絡購物、在線轉賬等）時，可能會遇到用戶自己難以解決的問題。在這種情況下，用戶通常會通過智能客服進行咨詢，以由智能客服提供用戶遇到的問題的解答。

舉例來說，用戶通常可以通過在智能客服的用戶界面中輸入查詢問句，向智能客服提出問題，以由智能客服針對該查詢問句進行解答，即由智能客服在數據庫中查找與該查詢問句對應的查詢文檔，并將查找到的查詢文檔通過智能客服的用戶界面展示給用戶，供用戶查看。

隨著業務用戶量的逐漸增大，以及業務類型的日趨復雜，如何使智能客服更加高效、準確地為用戶提供問題的解答也就成為了亟待解決的問題。

發明內容

本說明書提出一種查詢文檔排序方法，所述方法包括：

基于訓練樣本集對作為老師模型的第一排序模型進行有監督的訓練；其中，所述訓練樣本集中的訓練樣本包括查詢問句和與所述查詢問句對應的查詢文檔，所述訓練樣本被標注了指示所述查詢文檔與所述查詢問句是否匹配的標簽；所述第一排序模型包括對至少一個評分子模型進行模型融合得到的排序模型；所述評分子模型用于輸出所述查詢文檔對應于所述查詢問句的匹配度評分；

獲取所述第一排序模型輸出的與所述訓練樣本集對應的排序結果；

將所述訓練樣本集以及所述排序結果作為蒸餾樣本，對與所述第一排序模型對應的作為學生模型的第二排序模型進行模型蒸餾訓練；其中，所述模型蒸餾訓練包括基于所述排序結果對所述第二排序模型進行預訓練，并基于所述訓練樣本集對預訓練后的所述第二排序模型進行模型微調；

其中，所述第一排序模型和所述第二排序模型用于按照所述匹配度評分對與同一查詢問句對應的多個查詢文檔進行排序。

可選地，所述第一排序模型為基于XGBoost算法或者LambdaMart排序算法對至少一個評分子模型進行模型融合得到的排序模型。

可選地，所述第二排序模型包括BERT子模型和評分子模型。

可選地，所述方法還包括：

獲取用戶輸入的查詢問句和與所述查詢問句對應的多個查詢文檔，并基于所述查詢問句和與所述查詢問句對應的各個查詢文檔分別構建輸入向量；其中，所述輸入向量包括代表所述查詢問句和所述查詢文檔的整體語義的標識；

將所述輸入向量輸入至所述BERT子模型進行語義表示計算，并獲取所述BERT子模型輸出的與所述標識對應的語義向量；

將與所述標識對應的語義向量輸入至所述評分子模型，計算與所述語義向量對應的匹配度評分，并輸出按照所述匹配度評分進行排序的排序結果。

可選地，所述輸出按照所述匹配度評分進行排序的排序結果，包括：

按照所述匹配度評分從大到小的順序對所述多個查詢文檔進行排序，并輸出排序后的所述多個查詢文檔。

可選地，所述基于所述訓練樣本集對預訓練后的所述第二排序模型進行模型微調，包括：