[發明專利]基于倫理規則修訂的人工智能倫理風險辨識防范方法

在審

• 申請號: 202010773823.3
• 申請日: 2020-08-04
• 公開（公告）號: CN112085215A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: 朱定局
• 申請（專利權）人: 華南師范大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/00
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 聶榕

1.一種人工智能方法，其特征在于，所述方法包括：

場景獲取步驟：獲取事件場景，作為第一事件場景；

規則獲取步驟：獲取人工智能倫理規則，作為第一人工智能倫理規則；

初始化步驟：將所述第一人工智能倫理規則作為至少一個人工智能倫理規則；

優選度計算步驟：對所述至少一個人工智能倫理規則中的每一人工智能倫理規則，獲取在所述第一事件場景中產生人工智能倫理風險大小最小且行為成本低的人類行為及其對應的人工智能體行為，作為所述每一人工智能倫理規則對應的優選的人類行為和優選的人工智能體行為；根據所述最小的人工智能倫理風險大小和行為成本計算所述每一人工智能倫理規則的優選度；將所述最小的人工智能倫理風險大小作為所述每一人工智能倫理規則對應的人工智能倫理風險大小；

規則選擇步驟：從所述至少一個人工智能倫理規則中，獲取優選度最高的人工智能倫理規則，若優選度最高的人工智能倫理規則對應的人工智能倫理風險大小小于第二預設風險閾值，則將優選度最高的人工智能倫理規則作為優選的人工智能倫理規則，并執行所述規則和行為推薦步驟，否則執行所述規則修訂步驟或將優選度最高的人工智能倫理規則作為所述第一人工智能倫理規則后執行所述規則修訂步驟；

規則修訂步驟：基于所述第一人工智能倫理規則修訂得到至少一個人工智能倫理規則，回到所述優選度計算步驟重新執行；

規則和行為推薦步驟：將所述優選的人工智能倫理規則發送給所述第一事件場景中的人工智能體和人類；獲取所述優選的人工智能倫理規則對應的所述優選的人類行為，發送給所述第一事件場景中的人類，提示所述第一事件場景中的人類執行所述優選的人工智能倫理規則對應的所述優選的人類行為；根據所述優選的人工智能倫理規則對應的所述優選的人工智能體行為，調用所述第一事件場景中的人工智能體執行所述優選的人工智能倫理規則對應的所述優選的人工智能體行為。

2.根據權利要求1所述的人工智能方法，其特征在于，所述優選度計算步驟具體包括：

人類行為獲取步驟：獲取在所述第一事件場景中可能發生的所有人類行為；

人類行為判斷步驟：對在所述第一事件場景中可能發生的所有人類行為中的每一人類行為，若所述每一人類行為為空，則將所述第一事件場景作為人類行為后的第二事件場景，若人類行為不為空，則執行人類行為后場景仿真步驟；

人類行為后場景仿真步驟：對在所述第一事件場景中可能發生的所有人類行為中的每一人類行為，在所述第一事件場景中對所述每一人類行為進行虛擬仿真，得到所述每一人類行為后的第二事件場景；

人工智能體行為獲取步驟：對在所述第一事件場景中可能發生的所有人類行為中的每一人類行為，獲取在所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為；

人工智能體行為成本計算步驟：對所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為中的每一人工智能體行為，計算所述每一人工智能體行為的行為成本；

人工智能體行為判斷步驟：對所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為中的每一人工智能體行為，若所述每一人工智能體行為為空，則所述每一人工智能體行為后的所述第二事件場景作為人工智能體行為后的第三事件場景，若所述每一人工智能體行為不為空，執行人工智能體行為后場景仿真步驟；

人工智能體行為后場景仿真步驟：對所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為中的每一人工智能體行為，在所述每一人類行為后的所述第二事件場景中對所述每一人工智能體行為進行虛擬仿真，得到所述每一人工智能體行為后的第三事件場景；

倫理風險計算步驟：對所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為中的每一人工智能體行為，計算所述每一人工智能體行為后的所述第三事件場景的人工智能倫理風險的大小；

人工智能體行為選擇步驟：對所述每一人類行為后的所述第二事件場景中符合所述每一人工智能倫理規則的所有人工智能體行為中的每一人工智能體行為，計算所述每一人工智能體行為后的所述第三事件場景的人工智能倫理風險的大小與所述每一人工智能體行為的成本的綜合值，選取綜合值最小的所述每一人工智能體行為，作為所述每一人類行為后的優選的人工智能體行為，將所述最小的綜合值作為所述每一人類行為對應的第一綜合值；

人類行為成本計算步驟：對在所述第一事件場景中可能發生的所有人類行為中的每一人類行為，計算所述每一人類行為的行為成本；

人類行為選擇步驟：對在所述第一事件場景中可能發生的所有人類行為中的每一人類行為，計算所述每一人類行為對應的第一綜合值和所述每一人類行為的行為成本的綜合值，作為第二綜合值；將最小的所述第二綜合值對應的所述每一人類行為作為所述每一人工智能倫理規則對應的優選的人類行為；

人工智能體行為選擇步驟：將在優選的人類行為后的優選的人工智能體行為，作為所述每一人工智能倫理規則對應的優選的人工智能體行為；

倫理規則風險獲取步驟：將所述每一人工智能倫理規則對應的優選的人工智能體行為后的所述第三事件場景的人工智能倫理風險的大小作為所述每一人工智能倫理規則對應的人工智能倫理風險大小；

規則優選度計算步驟：根據最小的所述第二綜合值，計算得到所述每一人工智能倫理規則的優選度，其中，所述最小的所述第二綜合值越小，則計算得到所述每一人工智能倫理規則的優選度越大。