[發明專利]人類決策防范人工智能倫理風險虛擬實驗方法和機器人

在審

• 申請號: 202011304367.4
• 申請日: 2020-11-19
• 公開（公告）號: CN112446502A
• 公開（公告）日: 2021-03-05
• 發明（設計）人: 朱定局
• 申請（專利權）人: 華南師范大學
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 楊歡

1.一種人工智能方法，其特征在于，所述方法包括：

場景獲取步驟：獲取事件的場景；

人類行為決策選項步驟：獲取人類行為決策的多個選項，提示用戶從所述多個選項中選擇出在所述場景中能防范人工智能倫理風險的人類行為決策的正確選項；

第一選擇步驟：獲取用戶對所述多個選項進行虛擬實驗的請求或用戶對人類行為決策的多個選項的第一選擇結果；若獲取到用戶對所述多個選項進行虛擬實驗的請求，則繼續執行；若獲取到用戶對所述多個選項的第一選擇結果，則跳到第一選擇結果評價步驟繼續執行；

獲取操作步驟：獲取用戶對所述虛擬實驗中場景的操作；

操作對應人類行為決策步驟：根據所述操作確定所述操作對應的人類行為決策；

獲取決策執行結果步驟：獲取所述人類行為決策的執行結果；

更新場景步驟：根據所述執行結果更新所述虛擬實驗中的場景；

第一選擇結果評價步驟：獲取在所述場景中能防范人工智能倫理風險的人類行為決策的正確選項，將所述第一選擇結果與所述正確選項進行對比,判斷用戶的選擇是否正確作為對所述第一選擇結果的評價結果。

2.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

人類自動虛擬實驗與決策請求步驟：獲取用戶進行人類自動虛擬實驗與決策的請求；

人類自動虛擬實驗與決策動畫步驟：播放人類自動虛擬實驗與決策的動畫；所述人類自動虛擬實驗與決策的動畫中包括輸入場景、算法的執行、輸出結果；所述人類自動虛擬實驗與決策的動畫中輸出結果包括能防范人工智能倫理風險的行為推薦、能防范人工智能倫理風險的場景預測、是否符合人工智能倫理規則的判斷、人類行為的人工智能倫理風險的評定；

虛擬實驗結果一致判斷步驟：顯示人類自動虛擬實驗與決策的動畫中輸出結果與用戶進行虛擬實驗的結果是否一致的判斷的多個選項；

第二選擇步驟：獲取用戶對所述是否一致的判斷的多個選項的選擇結果，作為第二選擇結果；

第二選擇結果評價步驟：顯示所述是否一致的判斷的正確選項，將所述第二選擇結果與所述正確選項進行對比,判斷用戶的選擇是否正確作為對所述第二選擇結果的評價結果。

3.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

能防范人工智能倫理風險原因選項步驟：顯示人類行為決策的正確選項，獲取人類行為決策的正確選項能防范人工智能倫理風險的原因的多個選項，提示用戶從所述多個選項中選擇出人類行為決策的正確選項能防范人工智能倫理風險的原因的選項；

第三選擇步驟：獲取用戶對人類行為決策的正確選項能防范人工智能倫理風險的原因的多個選項的選擇結果，作為第三選擇結果；

第三選擇結果評價步驟：獲取人類行為決策的正確選項能防范人工智能倫理風險的原因的正確選項，將所述第三選擇結果與所述正確選項進行對比,判斷用戶的選擇是否正確作為對所述第三選擇結果的評價結果。

4.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

重新虛擬實驗步驟：獲取用戶重新進行所述虛擬實驗的請求；在獲取到用戶重新進行所述虛擬實驗的請求后回到所述獲取操作步驟重新執行；

退出虛擬實驗步驟：獲取用戶退出所述虛擬實驗的請求；在獲取到用戶退出所述虛擬實驗的請求后回到所述人類行為決策選項步驟重新執行；

實驗記錄步驟：將所述用戶、所述操作的時間、所述選擇的時間、所述操作內容、所述執行結果、所述第一選擇結果、所述第一選擇結果的評價結果存入數據庫并記錄進實驗報告。

5.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

執行正確行為決策請求步驟：獲取用戶對執行正確的人類行為決策的請求；

播放執行場景步驟：播放執行正確的人類行為決策的虛擬實驗中的場景。