[發明專利]深度學習處理器的監控方法和監控裝置

有效

• 申請號: 201611105459.3
• 申請日: 2016-12-05
• 公開（公告）號: CN108154230B
• 公開（公告）日: 2020-09-01
• 發明（設計）人: 李毅;單羿
• 申請（專利權）人: 賽靈思公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/063
• 代理公司: 北京卓孚律師事務所 11821
• 代理人: 任宇

本發明涉及一種深度學習處理器的監控方法和監控裝置，能夠有效的對深度學習處理器的運行進行監控，捕獲任意工作狀態下的異常狀況，并使深度學習處理器及時的恢復正常狀態。包括：初始化標準數據并存儲該標準數據所對應的標準計算結果，向深度學習處理器發送所述標準數據，接收深度學習處理器返回的計算結果，將接收到的計算結果與所存儲的標準計算結果進行比較，根據所述比較的結果來判斷深度學習處理器的狀態，當比較的結果一致時，判斷所述深度學習處理器的狀態正常，當比較的結果不一致時，判斷所述深度學習處理器發生異常。

技術領域

本發明涉及人工神經網絡技術領域，尤其是該領域中的深度學習處理器的監控方法和監控裝置。

背景技術

伴隨著半導體技術的發展，硬件的計算能力得到了迅速的增強，各種大數據的處理時間逐漸減少。在此基礎上，人工神經網絡技術也得到了進一步發展。尤其是深度學習這樣以計算密集為特點的人工神經網絡，逐漸的在計算機視覺、圖像和視頻識別、自然語言處理等領域得到大范圍的應用。

與此同時，深度學習這類人工神經網絡的規模在不斷增長，目前公開的比較先進的神經網絡的鏈接已經達到數億個。由此，當前計算系統中采用的通用處理器(CPU)或者圖形處理器(GPU)來實現人工神經網絡的計算將面臨著以下挑戰：隨著晶體管電路逐漸接近極限，摩爾定律將會走到盡頭，性能的提升不再顯著。單純提升計算性能已經逐漸無法滿足日益增長的人工神經網絡的計算需求。而由此誕生的深度學習處理器成為一種可行的解決方案，并顯現出極大的潛力。

深度學習處理器是針對于壓縮后的人工神經網絡的運算特點進行設計的一種專用計算設備，其作為一種外圍計算設備接入到當前的計算系統中，壓縮后的人工神經網絡以初始化參數的形式配置到深度學習處理器中，這樣，深度學習處理器就可以對輸入的數據按照配置的神經網絡進行計算，并快速高效的得到最終的計算結果。

深度學習處理器作為一種電路計算設備，自然需要保障其計算結果的準確無誤。但由于電子系統中存在各種各樣的干擾，除了在硬件設計上進行保障外，還需要通過良好的監控機制進一步增強其穩定性。但是，如前面所述的，深度學習處理器是針對于壓縮后的人工神經網絡的運算特點進行設計的專用計算設備，其處理的數據前后具有關聯，無法利用以往的在數據中增加校驗位的方法來檢驗深度學習處理器的計算結構是否準確。因此，在深度學習處理器運行時想要對其進行良好的監控存在困難。但是，如果不能對其進行良好的監控，則無法及時準確的發現深度學習處理器的異常，而導致整個計算系統的計算結果不準確。

發明內容

針對以上的問題，本申請的發明人設計了一種深度學習處理器的監控方法和監控裝置，能夠在深度學習處理器運行時對其進行良好的監控，從而保證其計算結果準確無誤。

為了實現上述發明目的，本發明提供一種深度學習處理器的監控方法，其特征在于，包括以下步驟：初始化標準數據并存儲該標準數據所對應的標準計算結果，向深度學習處理器發送所述標準數據，接收深度學習處理器返回的計算結果，將接收到的計算結果與所存儲的標準計算結果進行比較，根據所述比較的結果來判斷深度學習處理器的狀態，當比較的結果一致時，判斷所述深度學習處理器的狀態正常，當比較的結果不一致時，判斷所述深度學習處理器發生異常。

此外，優選深度學習處理器的監控方法還包括以下步驟：判斷所述深度學習處理器的運行狀態，根據所述深度學習處理器的運行狀態來確定發送標準數據的方式。

此外，優選當判斷所述深度學習處理器處于等待狀態時，按照一定的時間間隔，向深度學習處理器周期性的發送所述標準數據，當判斷所述深度學習處理器處于計算狀態時，對計算任務進行分隔，在計算任務的間隔中向深度學習處理器發送所述標準數據。

此外，優選所述標準數據隨機產生、或者針對特定的輸入輸出組織而生成，對應的標準計算結果由與配置在深度學習處理器上相同的神經網絡計算而預先得到。