[發明專利]基于動態人工智能倫理規則的倫理風險防范方法和機器人

在審

• 申請號: 202010514337.X
• 申請日: 2020-06-08
• 公開（公告）號: CN111775159A
• 公開（公告）日: 2020-10-16
• 發明（設計）人: 朱定局
• 申請（專利權）人: 華南師范大學
• 主分類號: B25J11/00
• 分類號: B25J11/00;B25J9/16
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 江海浪

基于動態人工智能倫理規則的倫理風險防范方法和機器人，包括：裝置與場景獲取步驟；規則和風險類型獲取步驟；場景判斷與規則選擇步驟；規則設定步驟；場景變化檢測步驟。上述方法、系統和機器人，根據事件場景動態選擇合適的人工智能倫理規則來降低和防范人工智能倫理風險，使得同一個人工智能裝置可以根據事件場景選擇合適的不同的人工智能倫理規則，從而可以提高人工智能裝置遵守人工智能倫理規則的靈活性，通過選擇合適的事件場景，可以極大防范和降低人工智能倫理規則在事件場景中所產生的人工智能倫理風險。

技術領域

本發明涉及人工智能技術領域，特別是涉及一種基于動態人工智能倫理規則的倫理風險防范方法和機器人。

背景技術

在實現本發明過程中，發明人發現現有技術中至少存在如下問題：現有的人工智能機器人或裝置或系統一般未考慮人工智能倫理規則，即使在科幻電影中，每個人工智能機器人也只有一個人工智能倫理規則，而每個人工智能倫理規則都很難適用于所有的事件場景，也就是說往往都在一類場景適用，而在另一類場景不適用，從而產生漏洞，進而產生人工智能倫理風險。

因此，現有技術還有待于改進和發展。

發明內容

基于此，有必要針對現有技術的缺陷或不足，提供人工智能倫理規則動態選擇方法和機器人，以解決現有技術中人工智能裝置的人工智能倫理規則固定單一的缺陷，通過根據事件場景動態選擇合適的人工智能倫理規則來降低和防范倫理風險。

第一方面，本發明實施例提供一種人工智能方法，所述方法包括：

裝置與場景獲取步驟：獲取人工智能裝置所在的事件場景，將所述人工智能裝置，作為第一人工智能裝置，將所述事件場景作為第一事件場景，記錄所述獲取人工智能裝置所在的事件場景的時間，作為所述第一事件場景的發生時間；

規則和風險類型獲取步驟：獲取各預設人工智能倫理規則；獲取各預設人工智能倫理風險類型，作為各預設風險類型；

場景判斷與規則選擇步驟：根據預先訓練和測試得到的場景規則預測深度學習模型，從所述各預設人工智能倫理規則中選擇使得所述第一事件場景中所述第一人工智能裝置的行為產生各預設風險類型的人工智能倫理風險最低的人工智能倫理規則，作為第一人工智能倫理規則；

規則設定步驟：將所述第一人工智能倫理規則作為所述第一人工智能裝置需要遵守的人工智能倫理規則；

場景變化檢測步驟：檢測所述第一人工智能裝置所在的事件場景的變化，若變化程度大于預設變化程度閾值，則回到所述裝置與場景獲取步驟重新執行所述方法。

優選地，所述方法還包括：

第二裝置獲取步驟：獲取所述第一事件場景中所述第一人工智能裝置以外其它人工智能裝置，作為第二人工智能裝置；

共享規則發送步驟：將所述第一事件場景及其發生時間和所述第一人工智能倫理規則發送給所述第二人工智能裝置；

第一采納規則步驟：判斷所述第一事件場景的所述發生時間是否比所述第二人工智能裝置當前所遵守的人工智能倫理規則對應的事件場景的所述發生時間距離現在更近，若是，則將所述第一人工智能倫理規則作為所述第二人工智能裝置需要遵守的人工智能倫理規則；

共享規則接受步驟：接受所述第二人工智能裝置發送的事件場景及其發生時間和人工智能倫理規則，作為第二事件場景及其發生時間和第二人工智能倫理規則；

第二采納規則步驟：判斷所述第二事件場景的所述發生時間是否比所述第一人工智能裝置當前所遵守的人工智能倫理規則對應的事件場景的所述發生時間距離現在更近，若是，則將所述第二人工智能倫理規則作為所述第一人工智能裝置需要遵守的人工智能倫理規則。

優選地，所述方法還包括：