[發(fā)明專利]一種基于PyTorch框架的自動重計算方法、裝置

有效

• 申請?zhí)枺?/td>: 202010567149.3
• 申請日: 2020-06-19
• 公開（公告）號: CN111860831B
• 公開（公告）日: 2023-01-10
• 發(fā)明（設計）人: 王萌
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 濟南舜源專利事務所有限公司 37205
• 代理人: 孫玉營

1.一種基于PyTorch框架的自動重計算方法，其特征在于，包括如下步驟：

在用戶定義的深度學習模型中提取計算模塊；

獲取計算模塊的信息并以獲取的信息為結點創(chuàng)建多叉樹；

按照層次遍歷的順序遍歷多叉樹，逐個選擇分割點；將選擇的分割點與該層次的其他結點組成分割方案并根據(jù)預設的分割點數(shù)量選擇分割方案；其中，該層次的其他結點為分割點結點所在層次的子結點為非葉結點的結點；

分割方案選擇后，對分割點以及子結點組成的子樹進行封裝；

獲取的計算模塊的信息包括模塊的名字、從模型索引到該模塊的路徑、子結點序列、當前結點存儲的子模塊、輸入輸出信息。

2.根據(jù)權利要求1所述的一種基于PyTorch框架的自動重計算方法，其特征在于，按照層次遍歷的順序遍歷多叉樹，逐個選擇分割點；將選擇的分割點與該層次的其他結點組成分割方案并根據(jù)預設的分割點數(shù)量選擇分割方案的步驟包括：

按照層次遍歷的順序遍歷多叉樹，當遍歷到某一層次，將子結點只有葉結點的結點作為分割點并加入必選列表；

將必選列表中的分割點與該層次的其他結點組成分割方案；

根據(jù)預設的分割點數(shù)量選擇分割方案。

3.根據(jù)權利要求2所述的一種基于PyTorch框架的自動重計算方法，其特征在于，根據(jù)預設的分割點數(shù)量選擇分割方案的步驟包括：統(tǒng)計分割方案中結點的數(shù)量，若分割方案中的結點的數(shù)量大于預設的分割點數(shù)量，遍歷結束，并返回當前的分割方案，否則繼續(xù)下一層次的遍歷。

4.根據(jù)權利要求1所述的一種基于PyTorch框架的自動重計算方法，其特征在于，分割方案選擇后，對分割點以及子結點組成的子樹進行封裝的步驟包括：

創(chuàng)建一個繼承自PyTorch框架中的模塊類；

在創(chuàng)建的模塊類內創(chuàng)建一個封裝函數(shù)，并在創(chuàng)建的封裝函數(shù)里調用分割點的前向傳播函數(shù)；

在前向傳播函數(shù)里，調用PyTorch的檢查點函數(shù)，并將創(chuàng)建的封裝函數(shù)傳進去完成對分割點的封裝。

5.一種基于PyTorch框架的自動重計算裝置，其特征在于，包括提取模塊、創(chuàng)建模塊、分割方案生成模塊、封裝模塊；

提取模塊，用于在用戶定義的深度學習模型中提取計算模塊；

創(chuàng)建模塊，用于獲取計算模塊的信息并以獲取的信息為結點創(chuàng)建多叉樹；

分割方案生成模塊，用于按照層次遍歷的順序遍歷多叉樹，逐個選擇分割點；將選擇的分割點與該層次的其他結點組成分割方案并根據(jù)預設的分割點數(shù)量選擇分割方案；其中，該層次的其他結點為分割點結點所在層次的子結點為非葉結點的結點；

封裝模塊，用于分割方案選擇后，對分割點以及子結點組成的子樹進行封裝；

獲取的計算模塊的信息包括模塊的名字、從模型索引到該模塊的路徑、子結點序列、當前結點存儲的子模塊、輸入輸出信息。

6.根據(jù)權利要求5所述的一種基于PyTorch框架的自動重計算裝置，其特征在于，分割方案生成模塊包括遍歷單元、分割方案形成單元、確定單元；

遍歷單元，用于按照層次遍歷的順序遍歷多叉樹，當遍歷到某一層次，將子結點只有葉結點的結點作為分割點并加入必選列表；

分割方案形成單元，用于將必選列表中的分割點與該層次的其他結點組成分割方案；

確定單元，用于根據(jù)預設的分割點數(shù)量選擇分割方案。

7.根據(jù)權利要求6所述的一種基于PyTorch框架的自動重計算裝置，其特征在于，確定單元，具體用于統(tǒng)計分割方案中結點的數(shù)量，與預設的分割點數(shù)量進行比較；若分割方案中的結點的數(shù)量大于預設的分割點數(shù)量，輸出信息到遍歷單元，使遍歷結束，并返回當前的分割方案，否則輸出信息到遍歷單元觸發(fā)繼續(xù)下一層次的遍歷。

8.根據(jù)權利要求7所述的一種基于PyTorch框架的自動重計算裝置，其特征在于，封裝模塊包括類創(chuàng)建單元、函數(shù)創(chuàng)建單元、封裝單元；類創(chuàng)建單元，用于創(chuàng)建一個繼承自PyTorch框架中的模塊類；

函數(shù)創(chuàng)建單元，用于在創(chuàng)建的模塊類內創(chuàng)建一個封裝函數(shù)，并在創(chuàng)建的封裝函數(shù)里調用分割點的前向傳播函數(shù)；

封裝單元，用于在前向傳播函數(shù)里，調用PyTorch的檢查點函數(shù)，并將創(chuàng)建的封裝函數(shù)傳進去完成對分割點的封裝。