[發明專利]一種降低神經網絡所需功耗的方法和設備

在審

• 申請號: 201810474024.9
• 申請日: 2018-05-17
• 公開（公告）號: CN108764469A
• 公開（公告）日: 2018-11-06
• 發明（設計）人: 司玉景;李全忠;何國濤;蒲瑤
• 申請（專利權）人: 普強信息技術（北京）有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06F1/32
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 王瑩;吳歡燕

本發明實施例提供一種降低神經網絡所需功耗的方法和設備。其中，方法包括：對于待輸入至神經網絡中的特征向量序列的每一幀，若判斷獲知該幀為關鍵幀，則將該幀輸入至神經網絡中，獲得神經網絡的輸出，作為該幀對應的輸出；若判斷獲知該幀為過渡幀，則將該幀之前最近的關鍵幀對應的輸出作為該幀對應的輸出。本發明實施例提供的一種降低神經網絡所需功耗的方法和設備，通過跳幀的方式對待輸入至神經網絡中的特征向量序列進行處理，降低了神經網絡對CPU的平均使用率，能大幅度提高計算神經網絡的效率并大幅度降低神經網絡所需功耗。

技術領域

本發明實施例涉及計算機技術領域，尤其涉及一種降低神經網絡所需功耗的方法和設備。

背景技術

近年來，隨著計算機硬件的不斷提升以及算法的不斷完善，神經網絡在模式識別領域，比如語音識別、語音喚醒、人臉識別、機器翻譯等領域，取得了重大的突破。神經網絡在智能硬件上的應用也得到了越來越多的關注。由于智能硬件的內存和計算能力均有限，神經網絡的規模使神經網絡對CPU的平均使用率受到了極大的限制，嚴重影響系統的性能。但是，由于嵌入式系統的計算能力和內存有限，在嵌入式系統中應用神經網絡面臨著巨大的挑戰。因此，如何在盡量保證性能的前提下，進一步降低神經網絡對CPU的平均使用率以及占用的內存，成為亟待解決的技術問題。

發明內容

針對現有技術存在占用資源較大的問題，本發明實施例提供一種降低神經網絡所需功耗的方法和設備。

根據本發明的第一方面，本發明實施例提供一種降低神經網絡所需功耗的方法，包括：

對于待輸入至神經網絡中的特征向量序列的每一幀，若判斷獲知該幀為關鍵幀，則將該幀輸入至神經網絡中，獲得神經網絡的輸出，作為該幀對應的輸出；若判斷獲知該幀為過渡幀，則將該幀之前最近的關鍵幀對應的輸出作為該幀對應的輸出。

根據本發明的第二方面，本發明實施例提供一種降低神經網絡所需功耗的方法，包括：

對于待輸入至神經網絡中的特征向量序列的每一幀，若判斷獲知該幀為關鍵幀，則根據前一關鍵幀之后的第一個過渡幀獲取神經網絡的輸出，作為該幀對應的輸出；若判斷獲知該幀為過渡幀，則將該幀之前最近的關鍵幀對應的輸出作為該幀對應的輸出。

根據本發明的第三方面，本發明實施例提供一種降低神經網絡所需功耗的設備，包括：

至少一個處理器；以及

與所述處理器通信連接的至少一個存儲器，其中：

所述存儲器存儲有可被所述處理器執行的程序指令，所述處理器調用所述程序指令能夠執行本發明實施例的降低神經網絡所需功耗的方法及其所有可選實施例的方法。

根據本發明的第四方面，本發明實施例提供一種降低神經網絡所需功耗的設備，包括：

至少一個處理器；以及

與所述處理器通信連接的至少一個存儲器，其中：

所述存儲器存儲有可被所述處理器執行的程序指令，所述處理器調用所述程序指令能夠執行本發明實施例的降低神經網絡所需功耗的方法及其所有可選實施例的方法。

本發明實施例提供的一種降低神經網絡所需功耗的方法和設備，通過跳幀的方式對待輸入至神經網絡中的特征向量序列進行處理，僅在部分幀進行神經網絡的前向計算，其他幀不進行前向計算，僅復制相應的前向計算結果，降低了神經網絡對CPU的平均使用率，能大幅度提高計算神經網絡的效率并大幅度降低神經網絡所需功耗。

附圖說明

為了更清楚地說明本發明實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作一簡單地介紹，顯而易見地，下面描述中的附圖是本發明的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。