[發(fā)明專利]樣本生成方法、模型的訓(xùn)練方法以及檢索方法

有效

• 申請?zhí)枺?/td>: 202210357147.0
• 申請日: 2022-04-06
• 公開（公告）號: CN114676227B
• 公開（公告）日: 2023-07-18
• 發(fā)明（設(shè)計(jì)）人: 施云生;黃正杰;馮仕堃;黃世維;何徑舟
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/332;G06F40/30;G06N3/045;G06N3/044;G06N3/0464;G06N3/08
• 代理公司: 中科專利商標(biāo)代理有限責(zé)任公司 11021
• 代理人: 吳曉兵

本公開提供了一種樣本生成方法、語言處理模型的訓(xùn)練方法、檢索方法、裝置、電子設(shè)備、存儲介質(zhì)以及程序產(chǎn)品，涉及人工智能技術(shù)領(lǐng)域，尤其涉及深度學(xué)習(xí)技術(shù)領(lǐng)域。具體實(shí)現(xiàn)方案為：從語料集合中確定與待匹配語句相匹配的第一目標(biāo)語句，將待匹配語句和第一目標(biāo)語句，作為負(fù)樣本語句對；從日志中獲取搜索語句和與搜索語句相匹配的第二目標(biāo)語句，將搜索語句和第二目標(biāo)語句，作為正樣本語句對；以及基于負(fù)樣本語句對和正樣本語句對，生成目標(biāo)樣本，負(fù)樣本語句對之間的語義相關(guān)性大于第一預(yù)定閾值、且小于第二預(yù)定閾值，正樣本語句對的語義相關(guān)性大于第二預(yù)定閾值。

技術(shù)領(lǐng)域

本公開涉及人工智能技術(shù)領(lǐng)域，尤其涉及深度學(xué)習(xí)技術(shù)領(lǐng)域，具體涉及樣本生成方法、語言處理模型的訓(xùn)練方法、檢索方法、裝置、電子設(shè)備、存儲介質(zhì)以及程序產(chǎn)品。

背景技術(shù)

隨著人工智能技術(shù)的不斷發(fā)展，自然語言處理實(shí)現(xiàn)讓機(jī)器能夠聽懂人類輸出的自然語言，理解自然語言中的內(nèi)在含義，并作出相應(yīng)的反饋。在這些操作中，語義的準(zhǔn)確理解、反饋的迅速程度、以及給予相應(yīng)的意見或者建議，均成為影響人機(jī)交互順暢的因素。

發(fā)明內(nèi)容

本公開提供了一種樣本生成方法、語言處理模型的訓(xùn)練方法、檢索方法、裝置、電子設(shè)備、存儲介質(zhì)以及程序產(chǎn)品。

根據(jù)本公開的一方面，提供了一種樣本生成方法，包括：從語料集合中確定與待匹配語句相匹配的第一目標(biāo)語句，將所述待匹配語句和所述第一目標(biāo)語句，作為負(fù)樣本語句對；從日志中獲取搜索語句和與所述搜索語句相匹配的第二目標(biāo)語句，將所述搜索語句和所述第二目標(biāo)語句，作為正樣本語句對；以及基于所述負(fù)樣本語句對和所述正樣本語句對，生成目標(biāo)樣本，其中，所述負(fù)樣本語句對之間的語義相關(guān)性大于第一預(yù)定閾值、且小于第二預(yù)定閾值，所述正樣本語句對的語義相關(guān)性大于所述第二預(yù)定閾值。

根據(jù)本公開的另一方面，提供了一種語言處理模型的訓(xùn)練方法，包括：利用訓(xùn)練樣本訓(xùn)練語言處理模型，得到經(jīng)訓(xùn)練的語言處理模型，其中，所述訓(xùn)練樣本是利用本公開所述的樣本生成方法生成的。

根據(jù)本公開的另一方面，提供了一種檢索方法，包括：獲取檢索項(xiàng)；以及將所述檢索項(xiàng)和多個候選語句輸入至語言處理模型中，得到目標(biāo)語句，其中，所述語言處理模型是利用本公開所述的語言處理模型的訓(xùn)練方法訓(xùn)練得到的。

根據(jù)本公開的另一方面，提供了一種樣本生成裝置，包括：第一確定模塊，用于從語料集合中確定與待匹配語句相匹配的第一目標(biāo)語句，將所述待匹配語句和所述第一目標(biāo)語句，作為負(fù)樣本語句對；第二確定模塊，用于從日志中獲取搜索語句和與所述搜索語句相匹配的第二目標(biāo)語句，將所述搜索語句和所述第二目標(biāo)語句，作為正樣本語句對；以及生成模塊，用于基于所述負(fù)樣本語句對和所述正樣本語句對，生成目標(biāo)樣本，其中，所述負(fù)樣本語句對之間的語義相關(guān)性大于第一預(yù)定閾值、且小于第二預(yù)定閾值，所述正樣本語句對的語義相關(guān)性大于所述第二預(yù)定閾值。

根據(jù)本公開的另一方面，提供了一種語言處理模型的訓(xùn)練裝置，包括：訓(xùn)練模塊，用于利用訓(xùn)練樣本訓(xùn)練語言處理模型，得到經(jīng)訓(xùn)練的語言處理模型，其中，所述訓(xùn)練樣本是利用本公開所述的樣本生成裝置生成的。

根據(jù)本公開的另一方面，提供了一種檢索裝置，包括：獲取模塊，用于獲取檢索項(xiàng)；以及檢索模塊，用于將所述檢索項(xiàng)和多個候選語句輸入至語言處理模型中，得到目標(biāo)語句，其中，所述語言處理模型是利用本公開所述的語言處理模型的訓(xùn)練裝置訓(xùn)練得到的。

根據(jù)本公開的另一方面，提供了一種電子設(shè)備，包括：至少一個處理器；以及與所述至少一個處理器通信連接的存儲器；其中，所述存儲器存儲有可被所述至少一個處理器執(zhí)行的指令，所述指令被所述至少一個處理器執(zhí)行，以使所述至少一個處理器能夠執(zhí)行如本公開的方法。

根據(jù)本公開的另一方面，提供了一種存儲有計(jì)算機(jī)指令的非瞬時計(jì)算機(jī)可讀存儲介質(zhì)，其中，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行如本公開的方法。

根據(jù)本公開的另一方面，提供了一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時實(shí)現(xiàn)如本公開的方法。