[發明專利]機器學習模型在運行時期間的可變參數

在審

• 申請號: 202010451666.4
• 申請日: 2020-05-25
• 公開（公告）號: CN112016668A
• 公開（公告）日: 2020-12-01
• 發明（設計）人: C·M·福雷特;姚笑終;S·哈雷哈拉蘇巴曼尼安
• 申請（專利權）人: 蘋果公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06N20/00;G06F8/41
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 馬明月

1.一種方法，包括：

接收對應于神經網絡(NN)模型的代碼以及用于所述NN模型的一組權重；

確定所述NN模型中的一組可變層；

確定用于將第二組權重映射至用于所述NN模型的所述一組權重的信息；以及

生成對應于所述一組可變層的元數據，以及用于將所述第二組權重映射至用于所述NN模型的所述一組權重的所述信息，其中所生成的元數據使得在執行所述NN模型期間能夠更新所述一組可變層。

2.根據權利要求1所述的方法，還包括：

編譯所述代碼和所生成的元數據以創建所述NN模型的編譯二進制文件；

提供用于存儲在高速緩存中的所述編譯二進制文件；以及

向安全應用程序提供句柄，其中所述句柄包括對存儲在所述高速緩存中的所述編譯二進制文件的引用。

3.根據權利要求1所述的方法，其中所述代碼還包括與用于所述NN模型的所述權重對應的偏置值和縮放值的參數。

4.根據權利要求1所述的方法，其中所述第二組權重采用對應于文件的第一格式，所述文件包括具有第一組地址的所述第二組權重，所述第一組地址不同于用于所述NN模型中的所述一組權重的第二組地址。

5.根據權利要求1所述的方法，還包括：

為所述一組層中的每個層確定一組轉換，所述一組轉換將每個層更改為符合運行所述NN模型的目標平臺的硬件要求的代碼，其中生成所述元數據包括對應于所述一組轉換的信息。

6.根據權利要求5所述的方法，其中所述一組轉換包括融合縮放和偏置操作，將縮放和偏置層與另一縮放和偏置層融合，或展平層。

7.根據權利要求1所述的方法，其中所述元數據包括與由所述NN模型的相應可變層執行的一組操作的偏移對應的信息。

8.根據權利要求1所述的方法，其中所述元數據包括有關偏移到所述NN網絡的編譯二進制文件的可變內核數據節區的信息，所述可變內核節區包括在執行所述NN網絡期間的可變的相應權重。

9.根據權利要求8所述的方法，其中基于由應用程序提供的權重文件，驅動器部件在運行時期間更新所述NN網絡的相應可變權重。

10.根據權利要求9所述的方法，其中所述權重文件包括一組矢量，所述一組矢量包括對應于所述相應可變權重的數據。

11.一種系統，包括：

處理器；

存儲器設備，所述存儲器設備包含指令，所述指令在由所述處理器執行時使得所述處理器：

接收對應于神經網絡(NN)模型的代碼和用于所述NN模型的一組權重；

確定所述NN模型中的一組可變層；

確定用于將第二組權重映射至用于所述NN模型的所述一組權重的信息；以及

生成對應于所述一組可變層的元數據，以及用于將所述第二組權重映射至用于所述NN模型的所述一組權重的所述信息，其中所生成的元數據使得在執行所述NN模型期間能夠更新所述一組可變層；以及

編譯所述代碼和所生成的元數據以創建所述NN模型的編譯二進制文件。

12.根據權利要求11所述的系統，其中所述存儲器設備還包含指令，所述指令在由所述處理器執行時還使得所述處理器：

提供用于存儲在高速緩存中的所述編譯二進制文件；以及

向安全應用程序提供句柄，其中所述句柄包括對存儲在所述高速緩存中的所述編譯二進制文件的引用。

13.根據權利要求11所述的系統，其中所述代碼還包括與所述NN模型對應的偏置值、縮放值、權重值的參數和激活參數。