[發明專利]標題生成方法、訓練方法、裝置、電子設備和存儲介質

有效

• 申請號: 202010989342.6
• 申請日: 2020-09-18
• 公開（公告）號: CN112149408B
• 公開（公告）日: 2022-11-08
• 發明（設計）人: 郝卓琳
• 申請（專利權）人: 北京有竹居網絡技術有限公司
• 主分類號: G06F40/258
• 分類號: G06F40/258;G06F40/242;G06F40/216;G06N3/08
• 代理公司: 北京中知法苑知識產權代理有限公司 11226
• 代理人: 李明

1.一種標題生成方法，其特征在于，包括：

獲取為目標標題設置的關鍵詞句,其中，所述關鍵詞句包括：關鍵詞或關鍵語句；

將所述關鍵詞句作為概率預測模型的輸入參數，利用所述概率預測模型得到目標字典中的各個字符在所述關鍵詞句兩側的各預設位置上的概率，其中，各所述預設位置為設置在所述關鍵詞句兩側的各字符位置；

根據所述概率，從所述目標字典中選擇出目標字符；

根據所述目標字符和所述關鍵詞句的位置關系，生成所述目標標題，其中，所述目標標題包括所述關鍵詞句。

2.如權利要求1所述的方法，其特征在于，所述將所述關鍵詞句作為概率預測模型的輸入參數，利用所述概率預測模型得到目標字典中的各個字符在所述關鍵詞句兩側的各預設位置上的概率，包括：

對所述關鍵詞句進行切字處理，得到所述關鍵詞句包括的各個字符；

查詢所述關鍵詞句包括的各個字符在所述目標字典中對應的第一身份標識ID；

將所述第一ID作為輸入參數輸入到transformer模型，得到所述目標字典中的各個字符在所述關鍵詞句兩側的各預設位置上的概率。

3.如權利要求1所述的方法，其特征在于，根據所述概率，從所述目標字典中選擇出目標字符，包括：

根據各所述預設位置在所述目標標題中與所述關鍵詞句由小到大的間距順序，從所述目標字典中依次確定所述目標字符；

其中，所述目標標題中與所述關鍵詞句間距最小的目標字符依據概率采樣，以及所述關鍵詞句中與所述間距最小的目標字符相鄰的字符的語義確定，所述目標標題中的其他目標字符依據概率采樣，以及與該目標字符相鄰的所述目標標題中已確定的字符的語義確定。

4.如權利要求1所述的方法，其特征在于，所述概率預測模型是通過使用元素對應的樣本標題和該元素作為訓練樣本進行訓練后得到的，其中，所述元素為一元組至N元組包括的元素，一元組包括的元素為所述樣本標題包括的各個詞語，二元組包括的元素為所述樣本標題包括的各個詞語中相鄰的兩個詞語構成的語句，三元組包括的元素為所述樣本標題包括的各個詞語中相鄰的三個詞語構成的語句，以此類推，N等于所述樣本標題包括的詞語的數量，一元組至N元組是通過對所述樣本標題進行切詞處理后，由得到的各個詞語構建的。

5.如權利要求4所述的方法，其特征在于，所述概率預測模型是通過所述元素包括的各第一字符在所述目標字典中對應的第二ID，以及所述樣本標題包括各第二字符在所述目標字典中對應的第三ID進行訓練后得到的。

6.如權利要求5所述的方法，其特征在于，所述概率預測模型的第一損失值的變化范圍位于預設范圍內，其中，第二損失值是將所述第二ID作為輸入參數輸入到所述概率預測模型中得到的輸出矩陣與所述第三ID對應的矩陣之間的損失值，當所述第二損失值不位于所述預設范圍內時，將所述第二損失值作為輸入參數輸入到指定的反響轉播算法中，使用攜帶有輸入參數的反向傳播算法對所述概率預測模型中的參數進行調整，直至得到所述第一損失值。

7.一種用于標題生成的概率預測模型訓練方法，其特征在于，所述概率預測模型用于得到目標字典中的各個字符在目標詞語兩側的各預設位置上的概率，所述方法包括：

對于獲取到的每個樣本標題，對該樣本標題進行切詞處理，得到該樣本標題包括的各個詞語，其中，該樣本標題中包括的任一標點符號作為一個詞語；

使用該樣本標題包括的各個詞語構建N個元組，其中，N等于該樣本標題包括的詞語的數量，所述N個元組中的一元組包括的元素為該樣本標題包括的各個詞語，所述N個元組中的二元組包括的元素為該樣本標題包括的各個詞語中相鄰的兩個詞語構成的語句，所述N個元組中的三元組包括的元素為該樣本標題包括的各個詞語中相鄰的三個詞語構成的語句，以此類推；

對于每個元素，將該元素對應的樣本標題和該元素作為訓練樣本對所述概率預測模型進行訓練。