[發明專利]一種基于動態加載和重定向技術的DSP虛擬化系統及方法

在審

• 申請號: 202211248281.3
• 申請日: 2022-10-12
• 公開（公告）號: CN115686667A
• 公開（公告）日: 2023-02-03
• 發明（設計）人: 李志剛;李玉成;路雪松;史亮;陳夏燕
• 申請（專利權）人: 中國電子科技集團公司第五十二研究所
• 主分類號: G06F9/445
• 分類號: G06F9/445;G06F9/455;G06F9/50
• 代理公司: 杭州君度專利代理事務所(特殊普通合伙) 33240
• 代理人: 楊天嬌

本發明公開了一種基于動態加載和重定向技術的DSP虛擬化系統及方法，系統通過運行在主機的HOST側與運行在DSP的DSP側協同工作實現，DSP側包括DSP固件模塊，HOST側包括DSP Lib模塊、vDSP Manager模塊和vDSP Lib模塊。本發明通過DSP虛擬化系統實現多用戶對單DSP資源的并發使用，解決DSP只能由單一用戶開發和使用的問題，達到提升DSP資源利用率的目的。本發明對于CPU?DSP協同應用，用戶可簡單通過DSP函數藍圖擴展和vDSP Lib模塊擴展來靈活支持CPU?DSP應用程序中新的DSP API調用請求。

技術領域

本發明屬于虛擬化技術領域，具體地，涉及一種基于動態加載和重定向技術的DSP虛擬化系統及方法，可用于HPC、邊緣計算、云計算等領域。

背景技術

隨著邊緣計算、人工智能等新興業務中對異構計算資源的支持，云計算基礎設施明顯準備不足，無論是IaaS層還是PaaS層的平臺，都還主要面向以CPU為主的通用計算資源，同時以FPGA、GPU為代表的異構計算資源也通過vCUDA、Overlay等虛擬化方式融入云計算中，而DSP異構資源虛擬化尚處于不支持的狀態。

在傳統的DSP開發模型中，使用者通常使用DSP集成開發環境進行程序設計開發，然后通過特定的固件燒寫工具將DSP程序燒寫到DSP上，最終生成可以運行的DSP映像。這種開發模式的主要缺點是DSP只能由單一用戶開發和使用，而與應用場景、DSP的產品種類等無關。對于一個對資源需求不大、而且不需要連續運行的應用而言，大部分DSP的硬件資源在大部分時間內都會閑置，這樣很難在時空范圍內對DSP進行充分利用。

發明內容

本發明的目的之一在于提供一種基于動態加載和重定向技術的DSP虛擬化系統，通過DSP虛擬化實現多用戶對單DSP資源的并發使用，解決現有技術中DSP只能由單一用戶開發和使用的問題，從而達到提升DSP資源利用率的目的。

為實現上述目的，本發明所采取的技術方案為：

一種基于動態加載和重定向技術的DSP虛擬化系統，通過運行在主機的HOST側與運行在DSP的DSP側協同工作實現，所述DSP側包括DSP固件模塊，所述HOST側包括DSP Lib模塊、vDSP Manager模塊和vDSP Lib模塊，其中：

所述vDSP Lib模塊設置有多個，每個vDSP Lib模塊用于攔截CPU-DSP應用程序中的DSP API調用請求并將其重定向到vDSP Manager模塊；還用于接收所述vDSP Manager模塊返回的處理結果并傳遞給CPU-DSP應用程序；

所述vDSP Manager模塊，用于接收多個經vDSP Lib模塊重定向后接入的DSP API調用請求，將所有DSP API調用請求序列化，并將序列內的DSP API調用請求逐一傳遞給DSPLib模塊；還用于接收所述DSP Lib模塊返回的處理結果并傳遞給對應的vDSP Lib模塊；

所述DSP Lib模塊，用于接收vDSP Manager模塊發送的DSP API調用請求，將DSPAPI調用請求傳遞給DSP固件模塊；還用于接收所述DSP固件模塊返回的處理結果并傳遞給所述vDSP Manager模塊；

所述DSP固件模塊，用于根據所述DSP Lib模塊發送的DSP API調用請求，控制所述DSP動態加載處理函數處理DSP API調用請求完成DSP服務，并向所述DSP Lib模塊返回對應于DSP API調用請求的處理結果。

以下還提供了若干可選方式，但并不作為對上述總體方案的額外限定，僅僅是進一步的增補或優選，在沒有技術或邏輯矛盾的前提下，各可選方式可單獨針對上述總體方案進行組合，還可以是多個可選方式之間進行組合。