[發明專利]一種隨機森林模型的優化方法及系統

在審

• 申請號: 201310567988.5
• 申請日: 2013-11-14
• 公開（公告）號: CN104636814A
• 公開（公告）日: 2015-05-20
• 發明（設計）人: 權奕銘;李俊杰;郭向林;高琴;吳胤旭
• 申請（專利權）人: 中國科學院深圳先進技術研究院
• 主分類號: G06Q10/04
• 分類號: G06Q10/04
• 代理公司: 深圳中一專利商標事務所 44237
• 代理人: 張全文

技術領域

本發明屬于數據處理技術領域，尤其涉及一種隨機森林模型的優化方法及系統。

背景技術

隨機森林是一種有監督的集成學習分類技術，其模型由一組決策樹分類器組成，所述模型對數據的分類是通過單個決策樹的分類結果進行集體投票來決定最終結果的。通過對訓練樣本空間和屬性空間注入隨機性，充分保證了每個決策樹之間的獨立性和差異性，很好地克服了決策樹過擬合問題，同時對噪聲和異常值也有較好的魯棒性。雖然隨機森林模型預測效果顯著優于單個決策樹，但其預測速度明顯下降，隨著決策樹數目的增多，其預測時間也相應增加。

發明內容

本發明實施例在于提供一種隨機森林模型的優化方法，以解決現有隨機森林模型預測速度下降及預測時間增加的問題。

本發明實施例的第一方面，提供一種隨機森林模型的優化方法，所述方法包括：

創建隨機森林模型的熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖；

根據所述熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖，采用決策樹間相同屬性節點的比例計算決策樹間的相似度；

根據所述隨機森林模型中不同預測精度決策樹的分布直方圖，刪除預測精度最小的決策樹，和/或根據計算獲得的決策樹間的相似度，刪除所述隨機森林模型中決策樹間相似度最高的決策樹。

本發明實施例的第二方面，提供一種隨機森林模型的優化系統，所述系統包括：

直方圖創建單元，用于創建隨機森林模型的熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖；

相似度計算單元，用于根據所述熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖，采用決策樹間相同屬性節點的比例計算決策樹間的相似度；

優化單元，用于根據所述隨機森林模型中不同預測精度決策樹的分布直方圖，刪除預測精度最小的決策樹，和/或根據計算獲得的決策樹間的相似度，刪除所述隨機森林模型中決策樹間相似度最高的決策樹。

本發明實施例與現有技術相比存在的有益效果是：本發明實施例通過創建隨機森林模型的熱力分布直方圖、創建不同預測精度決策樹的分布直方圖以及采用決策樹間相同屬性節點的比例計算決策樹間的相似度對所述隨機森林模型進行決策樹的刪減優化，使得優化后的隨機森林模型具有規模小、預測精度高及預測速度快等特點，有效提高了隨機森林模型的預測效率和準確率。

附圖說明

為了更清楚地說明本發明實施例中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本發明的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動性的前提下，還可以根據這些附圖獲得其他的附圖。

圖1是本發明第一實施例提供的隨機森林模型優化方法的實現流程圖；

圖2是本發明第二實施例提供的隨機森林模型優化系統的組成結構圖。

具體實施方式

為了使本發明的目的、技術方案及優點更加清楚明白，以下結合附圖及實施例，對本發明進行進一步詳細說明。應當理解，此處所描述的具體實施例僅僅用以解釋本發明，并不用于限定本發明。

為了說明本發明所述的技術方案，下面通過具體實施例來進行說明。

實施例一：

圖1示出了第一實施例提供的隨機森林模型優化方法的實現流程，該方法過程詳述如下：

在步驟S101中，創建隨機森林模型的熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖。

在本實施例中，隨機森林模型的熱力分布直方圖(Heat?Map)可表示隨機森林模型中決策樹的密度分布情況。對隨機森林模型進行分區，并構建分布網格，統計落入網格中的決策樹數量，根據統計到的決策樹數量通過量化得到不同顏色的熱力分布直方圖，通過所述熱力分布直方圖能清晰的顯示決策樹間的相似分布情況，方便實現隨機森林模型的優化。

另外，利用隨機森林中決策樹的分類預測精度，創建所有不同精度決策樹的分布直方圖。可通過橫軸表示決策樹的精度分布，以一定的增量遞增；縱軸表示某精度區間決策樹的統計個數，通過不同預測精度決策樹的分布直方圖，可為隨機森林模型優化提供以決策樹預測精度優化的依據。

在步驟S102中，據所述熱力分布直方圖以及所述隨機森林模型中不同預測精度決策樹的分布直方圖，采用決策樹間相同屬性節點的比例計算決策樹間的相似度。