[發明專利]一種基于改進互信息和熵的文本分類特征提取方法在審
| 申請號： | 201310129008.3 | 申請日： | 2013-04-15 |
| 公開（公告）號： | CN103678274A | 公開（公告）日： | 2014-03-26 |
| 發明（設計）人： | 成衛青;唐旋;范恒亮;楊庚;梁勝 | 申請（專利權）人： | 南京郵電大學 |
| 主分類號： | G06F17/27 | 分類號： | G06F17/27 |
| 代理公司： | 南京知識律師事務所 32207 | 代理人： | 汪旭東 |
| 地址： | 210003 江蘇*** | 國省代碼： | 江蘇;32 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 一種 基于 改進 互信 文本 分類 特征 提取 方法 | ||
1.一種基于改進互信息和熵的文本分類特征提取方法，其特征在于，包含如下步驟：
步驟1)?將數據集中的訓練文本進行預處理，分詞后去掉一些停用詞，得到特征詞，計算每個特征詞在文檔中出現的頻度，統計全部的文檔數，包含每個特征詞的文檔數，根據公式（5）計算每個特征的權重，并將文本表示為向量：????????????????????????????????????????????????，公式（5）為：，其中為特征(詞條)ti在文檔d中的頻度，N為全部的文檔數量，為包含詞條ti的文檔數，為一常量，其值通常取0.01，為反文檔頻率，分母是歸一化因子；
步驟2)?基于訓練文本集，利用特征評估函數TFMIIE對每個特征詞t進行評分；
步驟21)?計算含有特征t的文檔數，及其與整個訓練集文檔數的比值；
步驟22)?對每個類別ci，分別計算訓練文本集中ci?類文檔數、含有特征t的ci類文檔數與整個訓練集文檔數的比值，計算訓練文本集中含有特征t的ci類文檔數與含有特征t?的文檔數的比值；
步驟23)?按公式（8）計算特征詞t的評分，公式（8）為：，其中，t為特征詞，簡稱特征，C為訓練文本的類別集合，m是文本分類類別的個數，，?p(ci)、p(t)、p(t,?ci)分別是訓練文本集中ci?類文檔數、含有特征t?的文檔數、含有特征t的ci類文檔數與整個訓練集文檔數的比值，是訓練文本集中含有特征t的ci類文檔數與含有特征t?的文檔數的比值；
步驟3)?按照評分值從高到低的順序對特征詞進行排序；
步驟4)?根據需要，選取前若干個特征詞組成特征子集，用以構建文本的向量和文本分類器；根據得到的特征子集，壓縮所有訓練集文本向量的維數，并將特征權重再進行歸一化。
2.根據權利要求1所述的一種基于改進互信息和熵的文本分類特征提取方法，其特征在于：該方法將改進的互信息和熵結合起來，用于文本分類的特征評估函數。
3.一種基于改進互信息和熵的文本分類特征提取方法，其特征在于：該方法基于訓練文本集，利用特征評估函數TFMIIE對每個特征詞t進行評分；
計算含有特征t的文檔數，及其與整個訓練集文檔數的比值；
對每個類別ci，分別計算訓練文本集中ci?類文檔數、含有特征t的ci類文檔數與整個訓練集文檔數的比值，計算訓練文本集中含有特征t的ci類文檔數與含有特征t?的文檔數的比值；
按公式（8）計算特征詞t的評分，公式（8）為：，其中，t為特征詞，簡稱特征，C為訓練文本的類別集合，m是文本分類類別的個數，，?p(ci)、p(t)、p(t,?ci)分別是訓練文本集中ci?類文檔數、含有特征t?的文檔數、含有特征t的ci類文檔數與整個訓練集文檔數的比值，是訓練文本集中含有特征t的ci類文檔數與含有特征t?的文檔數的比值。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于南京郵電大學，未經南京郵電大學許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201310129008.3/1.html，轉載請聲明來源鉆瓜專利網。
