[發明專利]生成文本摘要的方法和裝置

在審

• 申請號: 202010182475.2
• 申請日: 2020-03-16
• 公開（公告）號: CN113407707A
• 公開（公告）日: 2021-09-17
• 發明（設計）人: 李浩然;徐松;袁鵬
• 申請（專利權）人: 北京沃東天駿信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06F16/34
• 分類號: G06F16/34;G06F40/284
• 代理公司: 中原信達知識產權代理有限責任公司 11219
• 代理人: 李陽;郭晗

1.一種生成文本摘要的方法，其特征在于，包括：

對待生成摘要的文本數據進行編碼以得到隱層序列；

根據預設要素詞典和基于要素的覆蓋度機制對所述隱層序列進行解碼以生成文本摘要。

2.根據權利要求1所述的方法，其特征在于，所述要素詞典通過以下方式構建：

根據文本數據的內容特點對文本數據進行分類；

通過對每一類文本數據進行標注和學習以構建文本數據對應的要素詞典。

3.根據權利要求1所述的方法，其特征在于，所述要素詞典通過以下方式構建：

根據物品的類別對文本數據進行分類；

通過對每一類文本數據進行標注和學習以構建文本數據對應的要素詞典。

4.根據權利要求1所述的方法，其特征在于，根據預設要素詞典和基于要素的覆蓋度機制對所述隱層序列進行解碼以生成文本摘要包括：

根據預設要素詞典對所述隱層序列進行解碼以得到要素集合；

根據所述要素集合和基于要素的覆蓋度機制，記錄對所述要素集合中每個要素的注意力歷史，并在損失函數中對重復的要素的注意力進行懲罰以生成文本摘要。

5.根據權利要求4所述的方法，其特征在于，根據預設要素詞典對所述隱層序列進行解碼以得到要素集合包括：

以預設要素詞典中的要素為基本單位，對所述隱層序列進行解碼，以逐個要素地生成要素集合。

6.根據權利要求1或4所述的方法，其特征在于，所述基于要素的覆蓋度機制包括如下公式：

α_t,i＝soft max(e_t,i)；

c_t＝∑_iα_t,ih_i；

其中，e_t,i是中間變量，h_i是文本數據中第i個詞的隱層狀態，s_t是解碼器第t時刻的隱層狀態，u_a、U_a、W_a和V_a為模型參數矩陣；x_k∈a_j表示屬于要素a_j的詞x_k，表示t時刻對要素a_j的注意力；α_t,i表示t時刻對文本數據中第i個詞的注意力；表示t時刻之前對要素a_j的注意力累積。

7.根據權利要求4所述的方法，其特征在于，對重復的要素的注意力進行懲罰的方式如下：

其中，L^β是對解碼器重復的注意力的損失函數；α_t,i表示t時刻對文本數據中第i個詞的注意力；表示t時刻之前對要素a_j的注意力累積。

8.一種生成文本摘要的裝置，其特征在于，包括：

編碼模塊，用于對待生成摘要的文本數據進行編碼以得到隱層序列；

解碼模塊，用于根據預設要素詞典和要素的覆蓋度機制對所述隱層序列進行解碼以生成文本摘要。

9.一種生成文本摘要的電子設備，其特征在于，包括：

一個或多個處理器；

存儲裝置，用于存儲一個或多個程序，

當所述一個或多個程序被所述一個或多個處理器執行，使得所述一個或多個處理器實現如權利要求1-7中任一所述的方法。

10.一種計算機可讀介質，其上存儲有計算機程序，其特征在于，所述程序被處理器執行時實現如權利要求1-7中任一所述的方法。