[發明專利]一種文本解釋生成方法及系統

在審

• 申請號: 202010749583.3
• 申請日: 2020-07-30
• 公開（公告）號: CN111914530A
• 公開（公告）日: 2020-11-10
• 發明（設計）人: 王欣芝;彭艷;駱祥峰;劉楊;羅均;謝少榮;張丹
• 申請（專利權）人: 上海大學
• 主分類號: G06F40/20
• 分類號: G06F40/20;G06N3/08
• 代理公司: 北京高沃律師事務所 11569
• 代理人: 王立普

本發明公開了一種文本解釋生成方法及系統。該方法包括：獲取實際場景圖片以及場景中的非可控智能體，根據非可控智能體對可控智能體的影響程度確定非可控智能體的優先級；在關注區域內選取按優先級由高到低順序排列的前N類非可控智能體，并對前N類非可控智能體采用語言模板生成文本解釋；若生成的文本解釋不正確，則提取實際場景圖片中的特征信息，并對特征信息采用訓練好的GRU模型進行文本解釋。本發明的方法及系統，采用了自然語言對模型進行解釋，降低了圖像解釋的模糊性，使模型的決策過程更容易被控制者理解。

技術領域

本發明涉及人工智能技術領域，特別是涉及一種文本解釋生成方法及系統。

背景技術

隨著芯片與人工智能技術的迅速發展，為自主救援機器人行為控制提供多方面的支持。但是，自主救援機器人的發展仍處在初期階段，其工作過程中仍然需要現場或者遠程人為干涉，自主控制技術作為機器人的指揮中心，起到了非常重要的作用。人工智能作為自動控制技術的一種，得到了快速發展，在模型的準確率不斷提升的同時，模型的復雜程度也同步提高。

目前，基于深度增強學習網絡模型的文本可解釋性研究方法中主要存在以下問題：(1)趨于復雜的模型邏輯對模型使用者而言以黑盒形式工作，模型內部的邏輯對使用者不可見，導致使用者難以理解模型內部的邏輯，因此當模型不能按照預期工作時難以回溯問題出現的原因，影響模型使用者對模型的理解與信任，從而影響模型使用者對模型的指導，降低人機協作的效果。(2)機器人作為一種可由模型控制的智能體，其行為邏輯忠實于預設邏輯或者前期訓練數據中的規律。然而由于數據的客觀邏輯與具有先驗知識的人類邏輯具有一定的偏差，導致數據中呈現出來的客觀規律并不完全與模型使用者的主觀邏輯一致。當不一致出現時，模型使用者不可避免的對可控制智能體的行為與可靠性產生質疑，導致模型使用者與可控智能體協作有效性降低。一些學者提出基于對象的顯著圖像對增強學習決策過程進行解釋，結果表明該顯著圖像能夠提升被測試者對模型的理解，但由于圖像解釋具有一定的模糊性和歧義性，容易導致使用者對可控智能體行為的理解存在偏差，從而導致任務的失敗。

發明內容

本發明的目的是提供一種文本解釋生成方法及系統，采用自然語言對模型進行解釋，降低了圖像解釋的模糊性，使模型的決策過程更容易被控制者理解。

為實現上述目的，本發明提供了如下方案：

一種文本解釋生成方法，包括：

獲取實際場景圖片以及場景中的非可控智能體；所述非可控智能體為強化學習模型不能控制的對象；

根據非可控智能體對可控智能體的影響程度確定非可控智能體的優先級；所述可控智能體為所述強化學習模型能夠控制的對象；

在關注區域內選取按優先級由高到低順序排列的前N類非可控智能體，并對所述前N類非可控智能體采用語言模板生成文本解釋；

判斷生成的文本解釋是否正確；若正確則返回步驟“獲取實際場景圖片以及場景中的非可控智能體”，否則，提取所述實際場景圖片中的特征信息，并對所述特征信息采用訓練好的GRU模型進行文本解釋。

可選的，所述根據非可控智能體對可控智能體的影響程度確定非可控智能體的優先級，具體包括：

獲取強化學習模型在場景中選擇的行為；

根據所述行為計算非可控智能體的平均得分以及遮擋一類非可控智能體后的得分；

將所述遮擋一類非可控智能體后的得分與所述平均得分的差值確定為遮擋的這類非可控智能體的重要程度；

將各類非可控智能體的重要程度按由大到小順序排列，得到非可控智能體由高到低的優先級。

可選的，所述對所述前N類非可控智能體采用語言模板生成文本解釋，具體包括：

確定非可控智能體與可控智能體的相對位置；