[發明專利]基于AI芯片的數據處理方法及設備

有效

• 申請號: 201810712195.0
• 申請日: 2018-06-29
• 公開（公告）號: CN108985451B
• 公開（公告）日: 2020-08-04
• 發明（設計）人: 王奎澎;寇浩鋒;包英澤;付鵬;范彥文;周強;周仁義;胡躍祥
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06K9/00;G06K9/62
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 柴海平;劉芳

本發明提供一種基于AI芯片的數據處理方法及設備，本發明的方法，通過將AI芯片數據處理流水線分為以下三個階段的處理：數據采集和預處理，神經網絡模型處理，神經網絡模型后處理；該三個階段的處理為并行流水線結構；AI芯片至少包括第一處理器，第二處理器和第三處理器，第一處理器用于數據采集和預處理，第三處理器用于神經網絡模型處理，第二處理器用于神經網絡模型后處理；第一處理器，第二處理器和第三處理器同時進行該三個階段的處理，減少了處理器相互等待時間，最大化地實現了各個處理器的并行計算，提高了AI芯片數據處理的效率，從而可以提高AI芯片的幀率。

技術領域

本發明涉及AI芯片技術領域，尤其涉及一種基于AI芯片的數據處理方法及設備。

背景技術

xeye是一個人工智能攝像機，xeye包括用于采集圖像的傳感器和用于對圖像進行識別處理的AI芯片。AI芯片通常包括用于神經網絡模型計算的嵌入式神經網絡處理器(Neural-network Processing Unit，簡稱NPU)和至少兩個CPU，其中NPU包括多個核。

現有的AI芯片逐幀地對采集的圖像進行識別處理，AI芯片對一個數據幀的處理過程包括以下四個模塊：圖像采集，圖像預處理，神經網絡模型處理，神經網絡模型后處理及數據傳輸。CPU用于運行第一和第二模塊，NPU用于運行第三模塊，CPU還用于運行第四模塊。

現有的AI芯片，在對一個圖像幀進行識別處理過程中，這四個模塊在時序上串行運行，也就是CPU運行第一模塊、第二模塊或者第四模塊期間，NPU處于空閑狀態；在NPU運行第三模塊期間，CPU處于空閑狀態；CPU和NPU相互等待導致計算資源浪費，AI芯片數據處理效率低。

發明內容

本發明提供一種基于AI芯片的數據處理方法及設備，用以解決現有技術中CPU和NPU相互等待導致計算資源浪費，AI芯片數據處理效率低的問題。

本發明的一個方面是提供一種基于AI芯片的數據處理方法，包括：

AI芯片至少包括第一處理器，第二處理器和第三處理器；

所述AI芯片數據處理流水線分為以下三個階段的處理：數據采集和預處理，神經網絡模型處理，神經網絡模型后處理；所述三個階段的處理為并行流水線結構；

所述第一處理器用于數據采集和預處理，所述第三處理器用于神經網絡模型處理，所述第二處理器用于神經網絡模型后處理；

所述第一處理器，第二處理器和第三處理器同時進行所述三個階段的處理。

本發明的另一個方面是提供一種AI芯片，至少包括：第一處理器，第二處理器，第三處理器，存儲器，以及存儲在所述存儲器上的計算機程序；

所述AI芯片數據處理流水線分為以下三個階段的處理：數據采集和預處理，神經網絡模型處理，神經網絡模型后處理；所述三個階段的處理為并行流水線結構；

所述第一處理器，第二處理器和第三處理器運行所述計算機程序時實現上述所述的基于AI芯片的數據處理方法。

本發明的另一個方面是提供一種智能攝像機，包括：傳感器和AI芯片；

所述AI芯片至少包括：第一處理器，第二處理器，第三處理器，存儲器，以及存儲在所述存儲器上的計算機程序；

所述AI芯片數據處理流水線分為以下三個階段的處理：數據采集和預處理，神經網絡模型處理，神經網絡模型后處理；所述三個階段的處理為并行流水線結構；

所述第一處理器，第二處理器和第三處理器運行所述計算機程序時實現上述所述的基于AI芯片的數據處理方法。

本發明的另一個方面是提供一種計算機可讀存儲介質，存儲有計算機程序，