[發明專利]推斷處理系統、推斷處理裝置以及計算機程序產品

在審

• 申請號: 202010077677.0
• 申請日: 2020-01-31
• 公開（公告）號: CN111563595A
• 公開（公告）日: 2020-08-21
• 發明（設計）人: 池田勇一朗;木村真敏;石田智弘;三原嘉以
• 申請（專利權）人: 富士通個人電腦株式會社
• 主分類號: G06N5/04
• 分類號: G06N5/04
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 劉久亮;黃綸偉

1.一種推斷處理系統，該推斷處理系統包括多個推斷處理裝置，該推斷處理系統執行推斷處理，以使得在后的推斷處理裝置對由在前的推斷處理裝置執行的推斷處理的結果執行推斷處理，該推斷處理系統包括：

推斷結果存儲裝置，在該推斷結果存儲裝置中存儲推斷處理裝置的推斷處理的結果；

處理延遲檢測器，該處理延遲檢測器被配置為檢測在推斷處理裝置的推斷處理中的延遲的發生；

選擇器，該選擇器被配置為選擇推斷處理裝置中的一個推斷處理裝置，所述一個推斷處理裝置能夠執行與具有延遲的推斷處理裝置的推斷處理相同的推斷處理；以及

輸入輸出控制器，該輸入輸出控制器被配置為：

向由所述選擇器所選擇的推斷處理裝置輸入在所述具有延遲的推斷處理裝置之前的推斷處理裝置的推斷處理的結果，并且

使所選擇的推斷處理裝置將推斷處理的結果輸出到在所述具有延遲的推斷處理裝置之后的推斷處理裝置。

2.根據權利要求1所述的推斷處理系統，該推斷處理系統還包括：

管理控制器，該管理控制器被配置為控制多個推斷處理裝置，其中，

所述管理控制器包括所述推斷結果存儲裝置，并且

在所述推斷結果存儲裝置中存儲除了至少最后階段的推斷處理裝置以外的推斷處理裝置的推斷處理的結果。

3.根據權利要求1所述的推斷處理系統，其中，

所述多個推斷處理裝置各自包括所述推斷結果存儲裝置，在所述推斷結果存儲裝置中存儲相應的推斷處理裝置的推斷結果。

4.根據權利要求1至3中的任一項所述的推斷處理系統，其中，

所述選擇器選擇在檢測到延遲時未被分配推斷處理的空閑推斷處理裝置。

5.根據權利要求1至3中的任一項所述的推斷處理系統，其中，

所述選擇器選擇能夠被額外分配與檢測到延遲的推斷處理裝置的推斷處理相同的推斷處理的推斷處理裝置。

6.根據權利要求1至3中的任一項所述的推斷處理系統，其中，

所述選擇器選擇已被分配有與檢測到延遲的推斷處理裝置的推斷處理相同的推斷處理并且被估計為不具有延遲的推斷處理裝置。

7.根據權利要求1至6中的任一項所述的推斷處理系統，其中，

所述推斷處理系統對輸入的圖像執行一系列推斷處理，并且

在所述推斷結果存儲裝置中存儲進行所述一系列推斷處理的所述圖像，并且所述推斷結果存儲裝置將用于標識所述圖像的信息添加到推斷處理裝置的推斷處理的結果中以進行存儲。

8.一種用于在包括多個推斷處理裝置以執行流水線推斷處理的推斷處理系統中使用的推斷處理裝置，該推斷處理裝置包括：

推斷處理器，該推斷處理器被配置為對輸入的數據執行推斷處理；以及

推斷結果存儲裝置，在該推斷結果存儲裝置中存儲所述推斷處理器的所述推斷處理的結果。

9.一種計算機程序產品，該計算機程序產品包括被具體實現并存儲在非暫時性計算機可讀介質中的被編程的指令，該計算機程序產品用于通過計算機控制包括推斷處理裝置的流水線推斷處理系統，所述推斷處理系統執行推斷處理以使得在后的推斷處理裝置對由在前的推斷處理裝置執行的推斷處理的結果執行推斷處理，其中，當所述指令由所述計算機執行時，所述指令使所述計算機執行以下操作：

存儲推斷處理裝置的推斷處理的結果；

檢測在推斷處理裝置的推斷處理中的延遲的發生；

選擇推斷處理裝置中的一個推斷處理裝置，該一個推斷處理裝置能夠執行與具有延遲的推斷處理裝置的推斷處理相同的推斷處理；以及

將在所述具有延遲的推斷處理裝置之前的推斷處理裝置的推斷處理的結果輸入到所選擇的推斷處理裝置，并且

使所選擇的推斷處理裝置將推斷處理的結果輸出到在所述具有延遲的推斷理處理裝置之后的推斷處理裝置。