[發明專利]一種基于關鍵句和關鍵字的反向生成摘要的方法在審
| 申請號: | 201910281699.6 | 申請日: | 2019-04-09 |
| 公開(公告)號: | CN109977220A | 公開(公告)日: | 2019-07-05 |
| 發明(設計)人: | 舒泓新;蔡曉東;蔣鵬;馬新成 | 申請(專利權)人: | 中通服公眾信息產業股份有限公司 |
| 主分類號: | G06F16/34 | 分類號: | G06F16/34 |
| 代理公司: | 濟南智圓行方專利代理事務所(普通合伙企業) 37231 | 代理人: | 張玉琳 |
| 地址: | 830000 新疆維*** | 國省代碼: | 新疆;65 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 原文 摘要信息 解碼器 測試數據集 注意力模型 語義 框架網絡 冗余信息 摘要提取 重要信息 辨識 放入 構建 文檔 語句 語法 字典 文本 中文 | ||
1.一種基于關鍵句和關鍵字的反向生成摘要的方法,其特征在于,包括步驟:
S1、將獲取的語料生成文檔;
S2、分別用tf-idf算法和用textrank算法提取原文的若干個關鍵字和關鍵句;
S3、用正則表達式比較標準答案與所述S2提取的關鍵字,將標題中不同的關鍵字增加到S2提取的關鍵字中;
S4、將獲取的所述關鍵字和關鍵句分別輸入兩個編碼器中;
S5、選擇注意力模型在編碼器或在字典中尋找形成摘要的關鍵信息;
S6、S5挑選好的關鍵信息進入反向解碼器;
S7、用查重模塊對注意力模型控制,防止重復定位原文,產生重復字;
S8、最終生成文本摘要。
2.根據權利要求1所述的基于關鍵句和關鍵字的反向生成摘要的方法,其特征在于,所述步驟S2中,用tf-idf算法的具體步驟為:
先計算每個詞在文檔中出現的頻率,再計算每個詞的逆向文件頻率;將每個字的詞頻與每個字的逆向文件頻率相乘,最終得到每個詞的權重,依次取出權重較高的詞作為關鍵詞;表達式為:
式中ni,j是該詞ti在文件dj中的出現次數,而分母則是在文件dj中所有詞的出現次數之和;其中|D|是語料庫中的文件總數|{j:ti∈dj}|表示包含詞語ti的文件數目;tfidfi,j=tfi,j×idfi,其中tfidfi,j表示每個詞的權重。
3.根據權利要求1所述的基于關鍵句和關鍵字的反向生成摘要的方法,其特征在于,所述S2中用textrank算法的具體步驟為:
將文檔中的每個句子看做一個節點,并將每個句子的句向量的cos值作為邊用k-means算法將句子聚類,在每類中用textrank以相同的節點和邊的方式對每個句子排序,找出前兩個句子作為關鍵句。
4.根據權利要求1所述的基于關鍵句和關鍵字的反向生成摘要的方法,其特征在于,所述S3中,用正則表達式算法比較關鍵字的具體步驟為:
正則表達式將所述S2提取的關鍵詞與人工摘要的字進行一一對比,發現不同的字輸出,將每個文檔不同的關鍵字添加到它對應的提取的關鍵字中。
5.根據權利要求1所述的基于關鍵句和關鍵字的反向生成摘要的方法,其特征在于,所述S4將獲取的所述關鍵字和關鍵句分別輸入兩個編碼器中的具體步驟為:
利用兩個雙向循環神經網絡的編碼器分別對關鍵句和關鍵字進行數字化,得到編碼向量;具體的方式為使用雙向神經網絡中的兩個反向的循環神經網絡,將文章中的每個字依次輸入該網絡,在最后一個字輸入完成時得到字的編碼向量,分別作為輸入關鍵字和關鍵句的編碼向量和數學表達式如下:
式中表示雙向循環神經網絡中的前向隱藏層狀;表示雙向循環神經網絡中的反向隱藏層狀;xt表示關鍵句中的詞;表示雙向循環神經網絡中的前向隱藏層前一狀態;表示雙向循環神經網絡中的反向隱藏層前一隱藏層;表示雙向循環神經網絡中的最終隱藏層;GRU表示神經網絡;
式中表示關鍵字雙向循環神經網絡中的前向隱藏層狀;表示關鍵字雙向循環神經網絡中的反向隱藏層狀;xkt表示關鍵詞;表示關鍵字雙向循環神經網絡中的前向隱藏層前一狀態;表示關鍵字雙向循環神經網絡中的反向隱藏層前一隱藏層;表示關鍵字雙向循環神經網絡中的最終隱藏層;GRU表示神經網絡。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于中通服公眾信息產業股份有限公司,未經中通服公眾信息產業股份有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910281699.6/1.html,轉載請聲明來源鉆瓜專利網。





