[發明專利]一種罪犯改造質量評估系統評估結果解釋方法

有效

• 申請號: 202010670915.9
• 申請日: 2020-07-13
• 公開（公告）號: CN111784181B
• 公開（公告）日: 2023-09-19
• 發明（設計）人: 狄小華;黃文海;楊劍;陸浩
• 申請（專利權）人: 南京大學;江蘇懷業信息技術股份有限公司;江蘇懷業安全科技有限公司
• 主分類號: G06Q10/0639
• 分類號: G06Q10/0639;G06Q10/04;G06Q50/26;G06F18/214;G06N3/0895;G06N3/092;G06N5/01
• 代理公司: 北京華際知識產權代理有限公司 11676
• 代理人: 李帥

本發明公開了一種罪犯改造質量評估系統評估結果解釋方法。該解釋方法通過對原始訓練數據集的預測、對原始訓練數據集標簽的替換、利用特征集元數據對合成樣例的生成，利用罪犯改造質量評估系統對合成樣例的預測和標簽的添加以及合成樣例的歸總，最終對數據集進行歸總，利用歸總的數據集對代理模型進行訓練，得到決策樹圖，通過決策樹圖，使得罪犯改造質量評估系統具有可解釋性，在罪犯改造質量評估系統給出評估結果時，可以根據罪犯的改造質量評估指標的相關指標值在決策樹圖上尋找評估結果對應的評估依據，可以更加直觀的對罪犯改造質量評估系統給出的結果進行合理的解釋，使得罪犯改造質量評估系統給出的結果更加的具有說服力。

技術領域

本發明涉及罪犯改造評估領域，具體是一種罪犯改造質量評估系統評估結果解釋方法。

背景技術

罪犯改造質量評估系統的可解釋性是指系統給出其評估結果所依據的知識、邏輯或規則對人而非機器的可理解和可解釋的程度。

學習器可分為強學習器和弱學習器。一般來說，強學習器(例如神經網絡模型)其可解釋性弱，而弱學習器(例如決策樹模型)其可解釋性強。也就是說，強學習器一般是黑盒模型，其給出評估結果背后所依據的規則、邏輯是隱性知識，對人來說這個知識是不可知的。

由于罪犯改造質量評估系統是要運用到司法實踐中的，其評估結果可能關乎罪犯的合法利益以及社會安全風險(例如被系統誤判為改造質量合格的罪犯被放到社會上服刑可能產生的社會危害)。因此，罪犯改造質量評估系統的可解釋性顯得尤為重要，如何構建一個可以對罪犯改造質量評估系統評估結果進行解釋的解釋依據顯的尤為重要。

所以，人們急需一種罪犯改造質量評估系統評估結果解釋方法來對罪犯改造質量評估系統的評估結果進行解釋。

發明內容

本發明的目的在于提供一種罪犯改造質量評估系統評估結果解釋方法，以解決現有技術中提出的問題。

為實現上述目的，本發明提供如下技術方案：一種罪犯改造質量評估系統評估結果解釋方法，該解釋方法利用原始訓練數據集、特征集元數據、罪犯改造質量評估系統、標簽替換模塊、合成樣例生成模塊、標簽添加模塊、數據集歸總模塊和代理模型進行解釋；

該解釋方法包括以下步驟：

S1、對原始訓練數據集D進行標簽的替換，得到新訓練數據集D'；

S2、利用特征集元數據中各個特征的有效特征值列表生成樣例，并添加標簽，得到擴充訓練數據集D'_f；

所述特征集元數據中的特征集可以覆蓋犯罪動機、悔罪行為等指標，特征集中的每一個特征都對應有其有效值列表，有效值列表表示相應的特征的可能取值，例如：犯罪動機的取值為“制造政治影響”或“為了復仇”等，悔罪行為的取值為“無”或者“有”。

特征集元數據是一個配置文件，其內容包括了特征集和特征集中每個特征的有效特征值列表。

S3、所述數據集歸總模塊對S1輸出的新訓練數據集D'和S2輸出的擴充訓練數據集D'_f進行歸總合并，得到最終訓練數據集D_final；

S4、利用S3輸出的最終訓練數據集D_final對代理模型進行訓練，最終得到決策樹圖。

根據上述技術方案，在S1中，具體包括以下步驟：

S101、所述罪犯改造質量評估系統接受原始訓練數據集D的輸入，對原始訓練數據集D進行預測，并輸出新標簽y′；

S102、所述標簽替換模塊利用S101輸出的新標簽y′替換原始訓練數據集D中的原始標簽y，得到新訓練數據集D′。

根據上述技術方案，在S2中，具體包括以下步驟：