[發明專利]信息處理系統

在審

• 申請號: 202110410968.1
• 申請日: 2021-04-16
• 公開（公告）號: CN113554179A
• 公開（公告）日: 2021-10-26
• 發明（設計）人: 福島真太朗;笹井健行
• 申請（專利權）人: 豐田自動車株式會社
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京金信知識產權代理有限公司 11225
• 代理人: 元靖雅;蘇萌萌

本發明提供一種信息處理系統，其信息處理裝置具備：第一判斷部，其實施第二輸出數據相對于第一輸出數據的變化量是否在被預先設定的閾值以下的判斷，其中，所述第一輸出數據為，通過將第一輸入數據向被預先學習過的學習完畢模型中輸入從而從學習完畢模型中獲得的數據，所述第二輸出數據為，通過將在第一輸入數據上相加被設定的攝動量的攝動而得到的第二輸入數據向學習完畢模型中輸入從而從學習完畢模型中獲得的數據；第一輸出部，其將表示通過第一判斷部而被判斷為變化量在閾值以下的第一輸入數據和攝動量的信息輸出。

技術領域

本公開涉及一種信息處理系統。

背景技術

在Xiang,Tran and Johnson,Reachable Set Computation and SafetyVerification for Neural Networks with ReLU Activations(arXiv2017).(非專利文獻1)中，公開了一種對相對于利用神經網絡而被預先學習過的學習完畢模型的輸入數據的、該學習完畢模型的輸出數據的范圍嚴格地進行辨別的技術。

發明內容

發明所要解決的問題

在非專利文獻1所記載的技術中，由于計算量龐大從而并不現實，因此在減少計算量的觀點上存在改善的余地。此外，非專利文獻1中所記載的技術并不是對通過向學習完畢模型輸入數據從而獲得的輸出數據的可靠性進行評價的技術。

本公開是考慮到以上的情況而完成的技術，其涉及一種能夠在減少計算量的同時，對通過向學習完畢模型輸入數據從而獲得的輸出數據的可靠性進行評價的技術。

用于解決問題的方法

第一方式所涉及的信息處理系統包括信息處理裝置以及控制裝置，其中，所述信息處理裝置具備：第一判斷部，其實施第二輸出數據相對于第一輸出數據的變化量是否在被預先設定的閾值以下的判斷，其中，所述第一輸出數據為，通過將第一輸入數據輸入至被預先學習過的學習完畢模型中從而從所述學習完畢模型中獲得的數據，所述第二輸出數據為，通過將在所述第一輸入數據上相加被設定的攝動量的攝動而得到的第二輸入數據輸入至所述學習完畢模型中從而從所述學習完畢模型中獲得的數據；第一輸出部，其將表示通過所述第一判斷部而被判斷為所述變化量在所述閾值以下的所述第一輸入數據和所述攝動量的信息輸出，所述控制裝置具備：取得部，其取得用于輸入至所述學習完畢模型中的第三輸入數據；第二判斷部，其實施所述第三輸入數據是否被包含在以由所述第一輸出部而輸出的信息所表示的所述第一輸入數據為基準的所述攝動量的范圍內的判斷；第二輸出部，其將通過所述第二判斷部而被判斷為并未被包含在所述范圍內的所述第三輸入數據輸出，所述第一判斷部將通過所述第二輸出部而被輸出的第三輸入數據作為所述第一輸入數據來實施所述判斷，所述第一輸出部進一步將表示通過所述第一判斷部而被判斷為所述變化量在所述閾值以下的所述第三輸入數據和所述攝動量的信息輸出。

根據第一方式所涉及的信息處理系統，實施第二輸出數據相對于第一輸出數據的變化量是否在被預先設定的閾值以下的判斷，其中，所述第一輸出數據為，通過將第一輸入數據輸入至被預先學習過的學習完畢模型中從而從學習完畢模型中獲得的數據，所述第二輸出數據為，通過將在第一輸入數據上相加被設定的攝動量的攝動而得到的第二輸入數據輸入至學習完畢模型中從而從學習完畢模型中獲得的數據。此外，通過信息處理裝置而將表示被判斷為變化量在閾值以下的第一輸入數據和攝動量的信息輸出。此外，通過控制裝置而對用于向學習完畢模型輸入的第三輸入數據是否被包含在以由第一輸出部而輸出的信息所表示的第一輸入數據為基準的攝動量的范圍內進行判斷。此外，通過控制裝置而輸出被判斷為未被包含在上述范圍內的第三輸入數據。而且，通過信息處理裝置而將通過控制裝置而輸出的第三輸入數據作為第一輸入數據來實施上述判斷，并且進一步輸出表示被判斷為變化量在閾值以下的第三輸入數據和攝動量的信息。

因此，能夠在減少計算量的同時，對通過向學習完畢模型輸入數據從而獲得的輸出數據的可靠性進行評價。