[發明專利]卷積運算的處理方法、電子設備、移動終端及存儲介質

有效

• 申請號: 202110553804.4
• 申請日: 2021-05-20
• 公開（公告）號: CN113392957B
• 公開（公告）日: 2023-01-17
• 發明（設計）人: 莊晨;孟金濤;魏彥杰
• 申請（專利權）人: 中國科學院深圳先進技術研究院
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06F17/15
• 代理公司: 深圳市威世博知識產權代理事務所(普通合伙) 44280
• 代理人: 黎堅怡

本申請公開了一種卷積運算的處理方法、電子設備、移動終端及存儲介質，該處理方法包括：獲取待處理的卷積運算以及配置數據庫；將卷積運算轉換為矩陣乘法，矩陣乘法對應一卷積尺寸；若確定配置數據庫中無卷積尺寸對應的配置參數，則根據卷積尺寸以及硬件參數定義一參數搜索空間；根據參數搜索空間中的配置參數生成多個運算代碼，并利用多個運算代碼對矩陣乘法進行計算，以得到多個運算結果；將多個運算結果中滿足預設條件的一個運算結果對應的運算代碼的配置參數，存儲至配置數據庫。通過上述方式，本申請能夠對矩陣乘法進行重構優化，從而以性能較好的矩陣乘法對卷積運算進行提升。

技術領域

本申請涉及可重構技術領域，特別是涉及一種卷積運算的處理方法、電子設備、移動終端及存儲介質。

背景技術

近年來，大量的深度學習(DL)應用程序已經從專業的科學領域逐漸擴散到了消費者市場，具體的應用包括實時游戲機器人，自動駕駛汽車導航，VR社交平臺以及使用數百萬個攝像頭的交通監控。在許多情況下，通常利用GPU群集、TPU群集進行訓練的模型在邊緣設備上部署使用，以提供實時的人工智能服務。

卷積計算是人工智能服務中常用卷積神經網絡(CNN)中主要的運算部分，它在許多網絡模型的運算占比達到了99％以上。卷積計算可以通過轉換成矩陣乘法，所以許多應用程序使用了BLAS(基本線性代數子例程)，手工編寫的矩陣運算例程，甚至是擴展矩陣運算例程作為卷積計算的實現。

目前，卷積神經網絡中生成的矩陣大多是長條形矩陣，而那些性能很好的BLAS計算庫，基本都是針對正方形矩陣運算進行優化的，基于優化策略不一致，所以它們通常無法在這些長條形矩陣的計算上提供最佳的性能，矩陣乘法的性能也就無法得以較好的提升。

發明內容

本申請實施例的第一方面提供了卷積運算的處理方法，該處理方法包括：獲取待處理的卷積運算以及配置數據庫；將卷積運算轉換為矩陣乘法，矩陣乘法對應一卷積尺寸；若確定配置數據庫中無卷積尺寸對應的配置參數，則根據卷積尺寸以及硬件參數定義一參數搜索空間；根據參數搜索空間中的配置參數生成多個運算代碼，并利用多個運算代碼對矩陣乘法進行計算，以得到多個運算結果；將多個運算結果中滿足預設條件的一個運算結果對應的運算代碼的配置參數，存儲至配置數據庫。

本申請實施例的第二方面提供了一種移動終端，包括：處理器和存儲器，存儲器中存儲有計算機程序，處理器用于執行計算機程序以實現本申請實施例第一方面提供的處理方法。

本申請實施例的第三方面提供了一種計算機可讀存儲介質，該計算機可讀存儲介質存儲有計算機程序，計算機程序能夠被處理器執行時實現本申請實施例第一方面提供的處理方法。

本申請的有益效果是：區別于現有技術的情況，本申請針對目前卷積運算的處理方法，通過確定配置數據庫中沒有對應的配置參數，根據卷積尺寸以及硬件參數定義一參數搜索空間，從而在根據參數搜索空間中的配置參數對矩陣乘法進行重構優化，生成多個運算代碼，并利用多個運算代碼對矩陣乘法進行計算，以得到多個運算結果，進而以提升矩陣乘法對卷積運算的性能。

附圖說明

為了更清楚地說明本申請實施例中的技術方案，下面將對實施例描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本申請的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。

圖1是本申請卷積運算的處理方法第一實施例的流程示意圖；

圖2是圖1中步驟S13一具體實施例的流程示意圖；

圖3是圖2中步驟S23一具體實施例的流程示意圖；

圖4是圖1中步驟S14一具體實施例的流程示意圖；

圖5是圖1中步驟S15一具體實施例的流程示意圖；

圖6是本申請卷積運算的處理方法一具體實施例的矩陣框架示意圖；