[發明專利]一種奇異值分解運算實現方法、裝置以及相關設備

在審

• 申請號: 202111040096.0
• 申請日: 2021-09-06
• 公開（公告）號: CN113885941A
• 公開（公告）日: 2022-01-04
• 發明（設計）人: 范登棟;楊凱;張超;吳澤文;劉勇翔;徐鵬翔
• 申請（專利權）人: 鵬城實驗室
• 主分類號: G06F9/30
• 分類號: G06F9/30
• 代理公司: 深圳市君勝知識產權代理事務所(普通合伙) 44268
• 代理人: 朱陽波

本發明公開了一種奇異值分解運算實現方法、裝置以及相關設備，其中，上述奇異值分解運算實現方法包括：構建奇異值分解算子，其中，上述奇異值分解算子用于對目標設備中的數據進行搬運并進行奇異值分解運算；將上述奇異值分解算子部署到上述目標設備中，其中，上述目標設備為昇騰AI處理器；獲取待處理數據，基于部署后的奇異值分解算子對上述待處理數據進行奇異值分解運算。與現有技術相比，本發明方案中構建可以對昇騰AI處理器中的數據進行搬運并進行奇異值分解運算的奇異值分解算子，并將奇異值分解算子部署到昇騰AI處理器中，有利于充分利用昇騰處理器的計算能力，直接基于昇騰AI處理器對待處理數據進行SVD運算。

技術領域

本發明涉及奇異值分解技術領域，尤其涉及的是一種奇異值分解運算實現方法、裝置以及相關設備。

背景技術

AI技術的發展往往依賴于海量數據的處理，這對算力提出了非常高的要求。昇騰AI處理器是針對這種計算密集型任務的特點推出的高算力處理器。昇騰AI處理器在AI任務處理中取得了很好的成績，但其底層算子的支持仍然欠缺。

奇異值分解(SVD，Singularity Value Decompose)運算是數學里較為常見的一種矩陣計算過程，可以用來加速矩陣求逆的計算等，在信號處理、圖像壓縮、張量網絡、二階優化等方面發揮著重要作用。現有技術中，x86，arm和GPU等多個計算平臺上都可以運行對應的SVD函數，以實現SVD運算。現有技術的問題在于，目前還沒有可以在昇騰AI處理器上運行的SVD算子，對于需要進行奇異值分解運算的數據，無法直接基于昇騰AI處理器進行SVD運算，不利于充分利用昇騰處理器的計算能力。

因此，現有技術還有待改進和發展。

發明內容

本發明的主要目的在于提供一種奇異值分解運算實現方法、裝置以及相關設備，旨在解決現有技術中的奇異值分解算子不能在昇騰AI處理器上運行，對于需要進行奇異值分解運算的數據，無法直接基于昇騰AI處理器進行奇異值分解運算，不利于充分利用昇騰AI處理器的計算能力的問題。

為了實現上述目的，本發明第一方面提供一種奇異值分解運算實現方法，其中，上述方法包括：

構建奇異值分解算子，其中，上述奇異值分解算子用于對目標設備中的數據進行搬運并進行奇異值分解運算；

將上述奇異值分解算子部署到上述目標設備中，其中，上述目標設備為昇騰AI處理器；

獲取待處理數據，基于部署后的奇異值分解算子對上述待處理數據進行奇異值分解運算。

可選的，上述構建奇異值分解算子，包括：

基于奇異值分解的算法流程，構造上述奇異值分解算子的子函數，其中，上述算法流程是冪迭代法對應的流程。

可選的，上述奇異值分解算子的子函數包括：向量歸一化子函數，矩陣乘向量子函數，向量乘矩陣子函數以及向量正交化子函數。

可選的，上述向量歸一化子函數用于：對待歸一向量分塊進行數據搬運和計算，獲取上述待歸一向量的歸一化向量以及上述待歸一向量的模。

可選的，上述矩陣乘向量子函數用于：對上述矩陣乘向量子函數對應的矩陣和向量分批進行數據搬運和計算，獲取輸出向量。

可選的，上述向量乘矩陣子函數用于：對上述向量乘矩陣子函數對應的向量和矩陣分批進行數據搬運和計算，獲取輸出向量。

可選的，上述向量正交化子函數用于：基于輸入上述向量正交化子函數的輸入向量和歸一化向量，計算獲取輸出向量，其中，上述輸入向量與上述輸出向量的內積為0。

可選的，上述基于所有上述子函數構建上述奇異值分解算子，包括：