[發(fā)明專利]計(jì)算環(huán)境中可解釋人工智能的誤用指標(biāo)

在審

• 申請?zhí)枺?/td>: 202010084408.7
• 申請日: 2020-02-10
• 公開（公告）號: CN111626319A
• 公開（公告）日: 2020-09-04
• 發(fā)明（設(shè)計(jì)）人: G·J·安德森;R·普爾納查得蘭;K·杜什
• 申請（專利權(quán)）人: 英特爾公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 上海專利商標(biāo)事務(wù)所有限公司 31100
• 代理人: 黃嵩泉;何焜

1.一種用于促進(jìn)計(jì)算環(huán)境中可解釋的人工智能的誤用指標(biāo)的設(shè)備，所述設(shè)備包括：

一個(gè)或多個(gè)處理器，用于：

在機(jī)器學(xué)習(xí)環(huán)境中將訓(xùn)練數(shù)據(jù)與至少一個(gè)推斷進(jìn)行映射，其中所述訓(xùn)練數(shù)據(jù)用于訓(xùn)練機(jī)器學(xué)習(xí)模型，其中所述訓(xùn)練數(shù)據(jù)與所述至少一個(gè)推斷之間的映射由將訓(xùn)練元數(shù)據(jù)與所述至少一個(gè)推斷進(jìn)行映射的信任分?jǐn)?shù)或概率來表示；

基于一個(gè)或多個(gè)策略/參數(shù)閾值來檢測所述訓(xùn)練數(shù)據(jù)與所述至少一個(gè)推斷之間的一個(gè)或多個(gè)差異；

將所述一個(gè)或多個(gè)差異分類為一個(gè)或多個(gè)誤用；以及

創(chuàng)建列出所述一個(gè)或多個(gè)誤用的誤用指標(biāo)。

2.如權(quán)利要求1所述的設(shè)備，其特征在于，所述至少一個(gè)推斷基于使用包括相機(jī)、麥克風(fēng)、和一個(gè)或多個(gè)傳感器中的一個(gè)或多個(gè)的一個(gè)或多個(gè)捕獲設(shè)備所捕獲的現(xiàn)場數(shù)據(jù)，其中利用元數(shù)據(jù)標(biāo)記所述訓(xùn)練數(shù)據(jù)和所述現(xiàn)場數(shù)據(jù)以標(biāo)識與所述訓(xùn)練數(shù)據(jù)和所述現(xiàn)場數(shù)據(jù)中的一個(gè)或多個(gè)有關(guān)的詳細(xì)內(nèi)容，其中所述機(jī)器學(xué)習(xí)環(huán)境是可解釋人工智能(XAI)環(huán)境的一部分。

3.如權(quán)利要求1所述的設(shè)備，其特征在于，所述一個(gè)或多個(gè)處理器進(jìn)一步用于：

確定所述一個(gè)或多個(gè)誤用是一個(gè)或多個(gè)錯(cuò)誤或一個(gè)或多個(gè)改變政策/參數(shù)改變的動(dòng)作；

修改所述誤用指標(biāo)以在所述一個(gè)或多個(gè)錯(cuò)誤與所述一個(gè)或多個(gè)改變策略/參數(shù)改變的動(dòng)作之間進(jìn)行區(qū)分；以及

提議可執(zhí)行任務(wù)以對所述一個(gè)或多個(gè)策略/參數(shù)改變的動(dòng)作進(jìn)行響應(yīng)，其中所述可執(zhí)行任務(wù)包括以下一項(xiàng)或多項(xiàng)：修改所述一個(gè)或多個(gè)策略/參數(shù)閾值、暫停所述一個(gè)或多個(gè)策略/參數(shù)改變的動(dòng)作、以及發(fā)出一個(gè)或多個(gè)警告以防止將來發(fā)生所述一個(gè)或多個(gè)策略/參數(shù)改變的動(dòng)作。

4.如權(quán)利要求1所述的設(shè)備，其特征在于，所述一個(gè)或多個(gè)策略/參數(shù)閾值基于一個(gè)或多個(gè)特征，所述一個(gè)或多個(gè)特征包括政府法律、行政法規(guī)、組織政策、文化規(guī)范、社會(huì)習(xí)俗、和道德期望中的一個(gè)或多個(gè)，其中基于所述一個(gè)或多個(gè)特征的變化動(dòng)態(tài)地修改所述一個(gè)或多個(gè)策略/參數(shù)閾值，其中，從所述訓(xùn)練數(shù)據(jù)、所述現(xiàn)場數(shù)據(jù)、所述元數(shù)據(jù)、和用戶輸入中的一個(gè)或多個(gè)中提取所述一個(gè)或多個(gè)特征。

5.如權(quán)利要求4所述的設(shè)備，其特征在于，所述一個(gè)或多個(gè)處理器進(jìn)一步用于：

通過一個(gè)或多個(gè)通信介質(zhì)將一個(gè)或多個(gè)調(diào)查傳送到一個(gè)或多個(gè)計(jì)算設(shè)備，其中所述一個(gè)或多個(gè)調(diào)查用于從具有對所述一個(gè)或多個(gè)計(jì)算設(shè)備的訪問權(quán)的一個(gè)或多個(gè)用戶中收集所述用戶輸入，其中所述用戶輸入包括策略上下文、策略原因、和策略推薦中的一個(gè)或多個(gè)；

基于所述用戶輸入來評估所述一個(gè)或多個(gè)策略/參數(shù)閾值；

基于所述用戶輸入來修改所述一個(gè)或多個(gè)策略/參數(shù)閾值；以及

基于所述一個(gè)或多個(gè)經(jīng)修改的策略/參數(shù)閾值來調(diào)整對所述一個(gè)或多個(gè)差異的檢測，其中所述一個(gè)或多個(gè)處理器包括圖形處理器和應(yīng)用處理器中的一個(gè)或多個(gè)，其中所述一個(gè)或多個(gè)處理器共同位于公共半導(dǎo)體封裝上。

6.一種用于促進(jìn)計(jì)算環(huán)境中可解釋的人工智能的誤用指標(biāo)的方法，所述方法包括：

在機(jī)器學(xué)習(xí)環(huán)境中將訓(xùn)練數(shù)據(jù)與至少一個(gè)推斷進(jìn)行映射，其中所述訓(xùn)練數(shù)據(jù)用于在具有一個(gè)或多個(gè)處理器的計(jì)算設(shè)備上訓(xùn)練機(jī)器學(xué)習(xí)模型，其中所述訓(xùn)練數(shù)據(jù)與所述至少一個(gè)推斷之間的映射由將訓(xùn)練元數(shù)據(jù)與所述至少一個(gè)推斷進(jìn)行映射的信任分?jǐn)?shù)或概率來表示；

基于一個(gè)或多個(gè)策略/參數(shù)閾值來檢測所述訓(xùn)練數(shù)據(jù)與所述至少一個(gè)推斷之間的一個(gè)或多個(gè)差異；

將所述一個(gè)或多個(gè)差異分類為一個(gè)或多個(gè)誤用；以及

創(chuàng)建列出所述一個(gè)或多個(gè)誤用的誤用指標(biāo)。

7.如權(quán)利要求6所述的方法，其特征在于，所述至少一個(gè)推斷基于使用包括相機(jī)、麥克風(fēng)、和一個(gè)或多個(gè)傳感器中的一個(gè)或多個(gè)的一個(gè)或多個(gè)捕獲設(shè)備所捕獲的現(xiàn)場數(shù)據(jù)，其中利用元數(shù)據(jù)標(biāo)記所述訓(xùn)練數(shù)據(jù)和所述現(xiàn)場數(shù)據(jù)以標(biāo)識與所述訓(xùn)練數(shù)據(jù)和所述現(xiàn)場數(shù)據(jù)中的一個(gè)或多個(gè)有關(guān)的詳細(xì)內(nèi)容，其中所述機(jī)器學(xué)習(xí)環(huán)境是可解釋人工智能(XAI)環(huán)境的一部分。