[發(fā)明專利]用于操作系統(tǒng)內(nèi)核數(shù)據(jù)路徑的自適應神經(jīng)網(wǎng)絡

在審

• 申請?zhí)枺?/td>: 202210762014.1
• 申請日: 2022-06-30
• 公開（公告）號: CN115130659A
• 公開（公告）日: 2022-09-30
• 發(fā)明（設計）人: 孫軍歡
• 申請（專利權(quán)）人: 深圳致星科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 廣州三環(huán)專利商標代理有限公司 44202
• 代理人: 邱群

1.一種自適應神經(jīng)網(wǎng)絡，用于操作系統(tǒng)的內(nèi)核數(shù)據(jù)路徑，其特征在于，所述操作系統(tǒng)包括內(nèi)核空間和用戶空間，所述操作系統(tǒng)的內(nèi)核數(shù)據(jù)路徑通過部署在所述操作系統(tǒng)的內(nèi)核空間的內(nèi)核網(wǎng)絡模塊提供至少一種內(nèi)核數(shù)據(jù)路徑功能，所述自適應神經(jīng)網(wǎng)絡包括：

第一網(wǎng)絡分支，部署在所述內(nèi)核空間并且通過第一路徑與所述至少一種內(nèi)核數(shù)據(jù)路徑功能相對應的內(nèi)核網(wǎng)絡模塊連通，以及配置為：通過所述第一路徑從該內(nèi)核網(wǎng)絡模塊獲取輸入數(shù)據(jù)并將與該輸入數(shù)據(jù)對應的推理結(jié)果發(fā)送給該內(nèi)核網(wǎng)絡模塊，該推理結(jié)果用于優(yōu)化所述至少一種內(nèi)核數(shù)據(jù)路徑功能；

第二網(wǎng)絡分支，部署在所述用戶空間并且通過從所述內(nèi)核空間到所述用戶空間的第二路徑與所述第一網(wǎng)絡分支連通，以及配置為：通過所述第二路徑獲取所述第一網(wǎng)絡分支相關(guān)聯(lián)的訓練數(shù)據(jù)并且自適應地生成所述自適應神經(jīng)網(wǎng)絡的模型調(diào)參信息，所述模型調(diào)參信息用于優(yōu)化所述第一網(wǎng)絡分支的推理功能。

2.根據(jù)權(quán)利要求1所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述模型調(diào)參信息包括以下至少一項：所述第一網(wǎng)絡分支的模型結(jié)構(gòu)、所述第一網(wǎng)絡分支的模型參數(shù)和所述第一網(wǎng)絡分支的權(quán)重系數(shù)，其中所述優(yōu)化所述第一網(wǎng)絡分支的推理功能是基于所述模型調(diào)參信息調(diào)整所述第一網(wǎng)絡分支。

3.根據(jù)權(quán)利要求1所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述第二網(wǎng)絡分支通過將所述第一網(wǎng)絡分支相關(guān)聯(lián)的訓練數(shù)據(jù)導入教師神經(jīng)網(wǎng)絡并解析所述教師神經(jīng)網(wǎng)絡的輸出從而自適應地生成所述模型調(diào)參信息，其中所述第一網(wǎng)絡分支是相對于所述教師模型的學生模型。

4.根據(jù)權(quán)利要求1所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述第二網(wǎng)絡分支通過將所述第一網(wǎng)絡分支相關(guān)聯(lián)的訓練數(shù)據(jù)導入生成對抗性神經(jīng)網(wǎng)絡并通過比較所述生成對抗性神經(jīng)網(wǎng)絡所生成的子網(wǎng)絡從而自適應地生成所述模型調(diào)參信息，其中所述模型調(diào)參信息是從所述生成對抗性神經(jīng)網(wǎng)絡所生成的子網(wǎng)絡中選擇。

5.根據(jù)權(quán)利要求1所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述第二網(wǎng)絡分支包括與所述用戶空間兼容的參考神經(jīng)網(wǎng)絡，所述第二網(wǎng)絡分支通過將所述第一網(wǎng)絡分支相關(guān)聯(lián)的訓練數(shù)據(jù)導入所述參考神經(jīng)網(wǎng)絡并解析所述參考神經(jīng)網(wǎng)絡的輸出從而自適應地生成所述模型調(diào)參信息，所述模型調(diào)參信息包括對所述參考神經(jīng)網(wǎng)絡進行整數(shù)量化操作和代碼轉(zhuǎn)換操作得到的與所述參考神經(jīng)網(wǎng)絡對應的網(wǎng)絡快照，所述網(wǎng)絡快照與所述內(nèi)核空間兼容，其中所述優(yōu)化所述第一網(wǎng)絡分支的推理功能是基于所述網(wǎng)絡快照。

6.根據(jù)權(quán)利要求5所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述參考神經(jīng)網(wǎng)絡是基于與所述用戶空間兼容的機器學習框架且采用以下任意一項：TensorFlow，PyTorch、GYM。

7.根據(jù)權(quán)利要求5所述的自適應神經(jīng)網(wǎng)絡，其特征在于，對所述參考神經(jīng)網(wǎng)絡進行整數(shù)量化操作包括對所述參考神經(jīng)網(wǎng)絡的輸入輸出按照縮放因子進行縮放化和量化。

8.根據(jù)權(quán)利要求5所述的自適應神經(jīng)網(wǎng)絡，其特征在于，對所述參考神經(jīng)網(wǎng)絡進行代碼轉(zhuǎn)換操作包括：針對所述參考神經(jīng)網(wǎng)絡所包括的每一個層，基于該層的類型選擇與該層的類型對應的預設層模板并按照該預設層模板將該層的模型參數(shù)和權(quán)重系數(shù)轉(zhuǎn)換為與該層對應的代碼實例，然后整合與所述參考神經(jīng)網(wǎng)絡所包括的每一個層分別對應的代碼實例得到與所述參考神經(jīng)網(wǎng)絡對應的源代碼文件，其中所述網(wǎng)絡快照是基于所述源代碼文件編譯得到。

9.根據(jù)權(quán)利要求8所述的自適應神經(jīng)網(wǎng)絡，其特征在于，所述參考神經(jīng)網(wǎng)絡包括至少一個線性層和/或至少一個全連接層，其中，與所述至少一個線性層對應的預設層模板包括所述至少一個線性層的計算邏輯且與所述至少一個線性層對應的代碼實例與所述內(nèi)核空間兼容，與所述至少一個全連接層對應的預設層模板包括所述至少一個全連接層的計算邏輯且與所述至少一個全連接層對應的代碼實例與所述內(nèi)核空間兼容。