[發明專利]基于動態人工智能倫理規則的倫理風險防范方法和機器人

在審

• 申請號: 202010514337.X
• 申請日: 2020-06-08
• 公開（公告）號: CN111775159A
• 公開（公告）日: 2020-10-16
• 發明（設計）人: 朱定局
• 申請（專利權）人: 華南師范大學
• 主分類號: B25J11/00
• 分類號: B25J11/00;B25J9/16
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 江海浪

1.一種人工智能方法，其特征在于，所述方法包括：

裝置與場景獲取步驟：獲取人工智能裝置所在的事件場景，將所述人工智能裝置，作為第一人工智能裝置，將所述事件場景作為第一事件場景，記錄所述獲取人工智能裝置所在的事件場景的時間，作為所述第一事件場景的發生時間；

規則和風險類型獲取步驟：獲取各預設人工智能倫理規則；獲取各預設人工智能倫理風險類型，作為各預設風險類型；

場景判斷與規則選擇步驟：根據預先訓練和測試得到的場景規則預測深度學習模型，從所述各預設人工智能倫理規則中選擇使得所述第一事件場景中所述第一人工智能裝置的行為產生各預設風險類型的人工智能倫理風險最低的人工智能倫理規則，作為第一人工智能倫理規則；

規則設定步驟：將所述第一人工智能倫理規則作為所述第一人工智能裝置需要遵守的人工智能倫理規則；

場景變化檢測步驟：檢測所述第一人工智能裝置所在的事件場景的變化，若變化程度大于預設變化程度閾值，則回到所述裝置與場景獲取步驟重新執行所述方法。

2.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

第二裝置獲取步驟：獲取所述第一事件場景中所述第一人工智能裝置以外其它人工智能裝置，作為第二人工智能裝置；

共享規則發送步驟：將所述第一事件場景及其發生時間和所述第一人工智能倫理規則發送給所述第二人工智能裝置；

第一采納規則步驟：判斷所述第一事件場景的所述發生時間是否比所述第二人工智能裝置當前所遵守的人工智能倫理規則對應的事件場景的所述發生時間距離現在更近，若是，則將所述第一人工智能倫理規則作為所述第二人工智能裝置需要遵守的人工智能倫理規則；

共享規則接受步驟：接受所述第二人工智能裝置發送的事件場景及其發生時間和人工智能倫理規則，作為第二事件場景及其發生時間和第二人工智能倫理規則；

第二采納規則步驟：判斷所述第二事件場景的所述發生時間是否比所述第一人工智能裝置當前所遵守的人工智能倫理規則對應的事件場景的所述發生時間距離現在更近，若是，則將所述第二人工智能倫理規則作為所述第一人工智能裝置需要遵守的人工智能倫理規則。

3.根據權利要求1所述的人工智能方法，其特征在于，所述方法還包括：

新增規則獲取步驟：獲取需要新增的人工智能倫理規則，加入所述各預設人工智能倫理規則；

規則更新步驟：獲取對所述各預設人工智能倫理規則中的原有人工智能倫理規則進行修改后的人工智能倫理規則，替換所述各預設人工智能倫理規則中的所述原有人工智能倫理規則；

規則刪除步驟：獲取所述各預設人工智能倫理規則中需要刪除的人工智能倫理規則，從所述各預設人工智能倫理規則中刪除所述需要刪除的人工智能倫理規則；

倫理風險類型新增步驟：獲取新增類型人工智能倫理風險，加入所述各預設風險類型；

倫理風險類型更新步驟：獲取對所述各預設風險類型中的原有類型進行修改后的新類型，替換所述各預設風險類型中的所述原有類型；

倫理風險類型刪除步驟：獲取所述各預設風險類型中需要刪除的原有類型，從所述各預設風險類型中刪除所述需要刪除的原有類型。

4.根據權利要求1所述的人工智能方法，其特征在于，所述場景判斷與規則選擇步驟具體包括：

第一訓練和測試步驟：獲取事件場景及所述各預設人工智能倫理規則在所述事件場景中產生人工智能倫理風險的概率的數據集，將所述數據集中的事件場景作為所述深度學習模型的輸入，將所述各預設人工智能倫理規則在所述事件場景中產生人工智能倫理風險的概率作為所述深度學習模型的輸出，對所述深度學習模型進行訓練和測試，得到第一場景規則預測深度學習模型；

第一使用步驟：將所述第一事件場景輸入所述第一場景規則預測深度學習模型,計算得到的輸出作為所述各預設人工智能倫理規則在所述第一事件場景中產生人工智能倫理風險的概率；

第一規則選取步驟：選取所述概率中最小的概率對應的預設人工智能倫理規則，作為所述第一人工智能倫理規則。