[發明專利]利用特定數檢測的多流水線架構

有效

• 申請號: 201880078950.2
• 申請日: 2018-12-21
• 公開（公告）號: CN111656319B
• 公開（公告）日: 2023-06-13
• 發明（設計）人: 韓亮;蔣曉維
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30
• 代理公司: 北京清源匯知識產權代理事務所(特殊普通合伙) 11644
• 代理人: 馮德魁;張艷梅

本公開涉及具有多流水線架構的計算設備。所述多流水線架構包括并發運行的第一流水線和第二流水線，其中所述第一流水線比所述第二流水線提前至少一個周期運行。在所述第一流水線上利用特定數檢測，其中特定數是產生可預測結果的數值。在檢測到特定數后，計算得以優化。

相關申請的交叉引用

本公開要求2017年12月22日提交的美國臨時申請No.62/610,077和2018年12月10日提交的美國專利申請No.16/215,553的優先權權益，上述申請的全部內容通過引用合并于此。

背景技術

開發神經網絡處理器以加速基于神經網絡的深度學習應用已在許多業務領域獲得了重大關注，包括成熟的芯片制造商、初創公司以及大型互聯網公司。單指令多數據(SIMD)架構能應用于芯片以加速深度學習應用的操作。隨著基于神經網絡的深度學習應用(例如圖像識別、語言/語音識別和機器翻譯)呈指數增長，希望保持并提高系統的計算強度。

發明內容

本公開涉及用于具有特定數檢測能力以簡化操作并提高計算強度的多管道流水線(pipeline)的方法和系統。

與公開的一些實施例一致，提供了一種計算方法，用于在利用多流水線架構的計算設備中、并帶有特定數檢測。所述計算設備包括用于存儲指令的存儲器和用于執行所述指令以執行所述方法的處理單元。所述方法包括針對來自所述存儲器的數據并發地運行第一流水線和第二流水線。所述第一流水線被配置為從所述存儲器接收第一操作數，所述第二流水線被配置為從所述存儲器接收第二操作數。所述第一流水線比所述第二流水線提前至少一個周期操作。

所述方法還包括針對所述第一操作數在所述存儲器中生成存儲器地址，并在所述第一流水線上從生成的存儲器地址讀取所述第一操作數。所述方法還包括：通過檢測器檢測所述第一操作數是否為特定數，其中，特定數是產生預定或可預測操作結果的數值。

如果所述第一操作數是特定數，則所述方法還包括檢索(retrieve)與檢測到的特定數相關聯的結果，并將檢索到的結果存儲在針對所述第一流水線和所述第二流水線的所述存儲器中。如果所述第一操作數不是特定數，則所述方法還包括針對所述第二操作數在所述存儲器中生成存儲器地址，在所述第二流水線上從生成的存儲器地址讀取所述第二操作數，對所述第一操作數和所述第二操作數執行操作，并將執行的操作的結果存儲在針對所述第一流水線和所述第二流水線的所述存儲器中。

本文公開的一些實施例針對用于利用特定數檢測進行計算的計算設備。所述計算設備包括存儲器以及第一流水線和第二流水線。所述第一流水線被配置為從所述存儲器接收第一操作數，所述第二流水線被配置為從所述存儲器接收第二操作數。所述第一流水線比所述第二流水線提前至少一個周期操作。所述設備還包括處理單元，用于針對所述第一操作數在所述存儲器中生成存儲器地址。

所述第一流水線從生成的存儲器地址讀取所述第一操作數。此后，檢測器檢測所述第一操作數是否為特定數。特定數是產生預定或可預測運算結果的數值。

如果所述第一操作數是特定數，則所述處理單元檢索與檢測到的特定數相關聯的預定或可預測操作結果，并將檢索到的結果存儲在針對所述第一流水線和所述第二流水線的所述存儲器中。

如果所述第一操作數不是特定數，則所述處理單元針對所述第二操作數在所述存儲器中生成存儲器地址。此后，所述第二流水線從生成的存儲器地址讀取所述第二操作數。然后，所述處理單元對所述第一操作數和所述第二操作數執行操作，并將執行的操作的結果存儲在針對所述第一流水線和所述第二流水線的所述存儲器中。