[發明專利]基于FocalGAN的短文本自動生成方法、裝置、設備及存儲介質

在審

• 申請號: 202010374650.8
• 申請日: 2020-05-06
• 公開（公告）號: CN111563367A
• 公開（公告）日: 2020-08-21
• 發明（設計）人: 劉杰;張凱;冀俊宇;周建設;史金生;李嵐;張文彥;董蘇
• 申請（專利權）人: 首都師范大學
• 主分類號: G06F40/166
• 分類號: G06F40/166;G06N3/04;G06N3/08
• 代理公司: 南昌華成聯合知識產權代理事務所(普通合伙) 36126
• 代理人: 徐蒼

本申請涉及一種基于FocalGAN的短文本自動生成方法、裝置、設備及存儲介質，其中，所述基于FocalGAN的短文本自動生成方法包括步驟：構建基于端到端的生成器及基于焦點損失函數的判別器；根據所述生成器和判別器生成對抗網絡；將目標單詞作為所述對抗網絡的輸入序列，以使得根據所述對抗網絡輸出所述目標單詞對應的短文本。本申請在對抗網絡基礎加入了注意力機制，且加入了基于焦點的損失函數，進而能夠更容易注意到主題明確的單詞，保證生成的語句更加貼近輸入的中心詞。

技術領域

本申請實施例涉及計算機技術領域，特別是涉及一種基于FocalGAN的短文本自動生成方法、裝置、設備及存儲介質。

背景技術

隨著人工智能的飛速發展，深度學習越來越重視自然語言處理領域的相關問題，作文文本的自動生成是其中一個具有代表性的任務。機器對文本內容的理解和生成，在一定程度上象征著機器的智能化。如何生成表達流暢，主題明確，邏輯通順的文本語句是研究的重點難點問題。針對這一問題。

發明內容

為了解決上述問題，本申請提供了一種基于FocalGAN的短文本自動生成方法、裝置、設備及存儲介質，本申請在對抗網絡基礎加入了注意力機制，且加入了基于焦點的損失函數，進而能夠更容易注意到主題明確的單詞，保證生成的語句更加貼近輸入的中心詞。

本申請第一方面公開一種基于FocalGAN的短文本自動生成方法，所述方法包括步驟：

構建基于端到端的生成器及基于焦點損失函數的判別器；

根據所述生成器和判別器生成對抗網絡；

將目標單詞作為所述對抗網絡的輸入序列，以使得根據所述對抗網絡輸出所述目標單詞對應的短文本。

在本申請第一方面中，通過構建基于端到端的生成器及基于焦點損失函數的判別器，進而根據所述生成器和判別器生成對抗網絡，進而將目標單詞作為所述對抗網絡的輸入序列，以使得根據所述對抗網絡輸出所述目標單詞對應的短文本，這樣一來能夠基于焦點的損失函數和注意力機制，能夠更容易注意到主題明確的單詞，保證生成的語句更加貼近輸入的目標單詞。

作為一種可選的實施方式，所述構建基于端到端的生成器及基于焦點損失函數的判別器之前，所述方法還包括：

獲取語料集，所述語料集至少包括作文語料、頭條新聞語料；

對所述語料集進行預處理得到篩選后的語料集；

根據預設劃分比例將所述篩選后的語料集劃分為訓練集、測試集、驗證集。

作為一種可選的實施方式，在所述將目標單詞作為所述對抗網絡的輸入序列，以使得根據所述對抗網絡輸出所述目標單詞對應的短文本之前，所述方法還包括：

根據所述訓練集對所述對抗網絡進行訓練。

作為一種可選的實施方式，所述預設劃分比例為6：2:2。

作為一種可選的實施方式，所述根據所述訓練集對所述對抗網絡進行訓練，包括：

從所述訓練集采樣得到監督訓練所需要的正例；

根據所述監督訓練所需要的正例對所述對抗網絡進行訓練。

作為一種可選的實施方式，在所述根據所述生成器和判別器生成對抗網絡之后，所述將目標單詞作為所述對抗網絡的輸入序列，以使得根據所述對抗網絡輸出所述目標單詞對應的短文本之前，所述方法還包括：

基于注意力機制及所述判別器反饋給所述生成器的獎勵修正所述生成器的分配權重。

作為一種可選的實施方式，所述對所述語料集進行預處理得到篩選后的語料集，包括：