[發(fā)明專利]基于倫理風(fēng)險評定的人工智能倫理風(fēng)險辨識和防范方法

在審

• 申請?zhí)枺?/td>: 202010773844.5
• 申請日: 2020-08-04
• 公開（公告）號: CN112085216A
• 公開（公告）日: 2020-12-15
• 發(fā)明（設(shè)計）人: 朱定局
• 申請（專利權(quán)）人: 華南師范大學(xué)
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 廣州華進聯(lián)合專利商標(biāo)代理有限公司 44224
• 代理人: 樊倩

基于倫理風(fēng)險評定的人工智能倫理風(fēng)險辨識和防范方法，包括：裝置與場景獲取步驟；規(guī)則和風(fēng)險類型獲取步驟；場景判斷與規(guī)則選擇步驟；規(guī)則設(shè)定步驟；場景變化檢測步驟。上述方法、系統(tǒng)和機器人，根據(jù)事件場景動態(tài)選擇合適的人工智能倫理規(guī)則來降低和防范人工智能倫理風(fēng)險，使得同一個人工智能裝置可以根據(jù)事件場景選擇合適的不同的人工智能倫理規(guī)則，從而可以提高人工智能裝置遵守人工智能倫理規(guī)則的靈活性，通過選擇合適的事件場景，可以極大防范和降低人工智能倫理規(guī)則在事件場景中所產(chǎn)生的人工智能倫理風(fēng)險。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，特別是涉及一種基于倫理風(fēng)險評定的人工智能倫理風(fēng)險辨識和防范方法。

背景技術(shù)

在實現(xiàn)本發(fā)明過程中，發(fā)明人發(fā)現(xiàn)現(xiàn)有技術(shù)中至少存在如下問題：現(xiàn)有的人工智能體例如人工智能機器人或裝置或系統(tǒng)一般只是通過人工智能算法例如識別算法來防范風(fēng)險，但有些兩難問題例如倫理困境中的人工智能倫理風(fēng)險是僅僅依靠人工智能算法例如識別算法所無法解決的，這些風(fēng)險并不是人工智能體本身算法出錯，而是處于進退兩難的境地，例如剎車失靈，必須撞人的時候，是撞左邊的人還是右邊的人，諸如此類問題。

因此，現(xiàn)有技術(shù)還有待于改進和發(fā)展。

發(fā)明內(nèi)容

基于此，有必要針對現(xiàn)有技術(shù)的缺陷或不足，提供基于倫理風(fēng)險評定的人工智能倫理風(fēng)險辨識和防范方法，以解決現(xiàn)有技術(shù)中人工智能體僅僅依靠人工智能算法無法避免的人工智能倫理風(fēng)險。

第一方面，本發(fā)明實施例提供一種人工智能方法，所述方法包括：

風(fēng)險類型獲取步驟：獲取至少一類人工智能倫理風(fēng)險的集合，獲取所述人工智能倫理風(fēng)險的集合中每一類人工智能倫理風(fēng)險；

事件場景獲取步驟：獲取事件場景，作為第一事件場景；

風(fēng)險存在判斷步驟：對所述人工智能倫理風(fēng)險集合中每一類人工智能倫理風(fēng)險，判斷所述第一事件場景中是否存在所述每一類人工智能倫理風(fēng)險：若存在，將存在的所述每一類人工智能倫理風(fēng)險，加入所述第一事件場景中存在的人工智能倫理風(fēng)險集合，并發(fā)送給所述第一事件場景中的人類和人工智能體并提醒所述第一事件場景中的人類和人工智能體進行風(fēng)險防范；

風(fēng)險大小計算步驟：獲取所述第一事件場景中存在的所述人工智能倫理風(fēng)險集合中的每一類人工智能倫理風(fēng)險的概率、風(fēng)險值，將所述每一類人工智能倫理風(fēng)險的概率、風(fēng)險值進行加權(quán)平均，得到所述第一事件場景中存在的人工智能倫理風(fēng)險的大??；

事件場景變換步驟：若所述第一事件場景中存在的人工智能倫理風(fēng)險集合不為空，則通過事件場景變換，根據(jù)所述第一事件場景得到盡量少地存在所述第一事件場景中存在的人工智能倫理風(fēng)險集合中人工智能倫理風(fēng)險的事件場景，作為第二事件場景；

行為預(yù)測步驟：若所述第一事件場景中存在的人工智能倫理風(fēng)險集合不為空，則根據(jù)所述第一事件場景和變換得到的所述第二事件場景，得到所述變換過程中所述第一事件場景中的人類需要執(zhí)行的行為、人工智能體需要執(zhí)行的行為；

行為執(zhí)行步驟：將所述人工智能體需要執(zhí)行的行為的信息發(fā)送給所述第一事件場景中的人工智能體進行執(zhí)行；將所述人類需要執(zhí)行的行為的信息發(fā)送給所述第一事件場景中的人類。

在其中一個優(yōu)選實施例中，所述方法的所述風(fēng)險存在判斷步驟中判斷所述第一事件場景中是否存在所述每一類人工智能倫理風(fēng)險的步驟包括：