[發(fā)明專利]一種神經(jīng)網(wǎng)絡(luò)模型的量化方法、裝置及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 201911062937.0
• 申請(qǐng)日: 2019-10-31
• 公開(kāi)（公告）號(hào): CN112749783A
• 公開(kāi)（公告）日: 2021-05-04
• 發(fā)明（設(shè)計(jì)）人: 徐兵;張楠賡
• 申請(qǐng)（專利權(quán)）人: 嘉楠明芯（北京）科技有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08
• 代理公司: 北京市中倫律師事務(wù)所 11410
• 代理人: 鐘錦舜

1.一種神經(jīng)網(wǎng)絡(luò)模型的量化方法，其特征在于，包括：

確定神經(jīng)網(wǎng)絡(luò)模型中系數(shù)分布異常的目標(biāo)卷積核；

對(duì)所述目標(biāo)卷積核進(jìn)行拆分，得到多個(gè)子卷積核；

對(duì)所述多個(gè)子卷積核分別進(jìn)行量化以得到多個(gè)量化卷積核，并利用所述多個(gè)量化卷積核替代所述目標(biāo)卷積核。

2.由權(quán)利要求1所述的方法，其特征在于，所述確定神經(jīng)網(wǎng)絡(luò)模型中系數(shù)分布異常的目標(biāo)卷積核，還包括：

獲取所述神經(jīng)網(wǎng)絡(luò)模型中的任意一個(gè)待量化卷積核；

根據(jù)所述待量化卷積核包含的多個(gè)系數(shù)的系數(shù)分布標(biāo)準(zhǔn)差確定第一閾值；

確定所述待量化卷積核包含的多個(gè)系數(shù)中的最大值和/或最小值與均值之間的差值；

當(dāng)所述差值超過(guò)所述第一閾值，確定所述待量化卷積核為所述目標(biāo)卷積核。

3.由權(quán)利要求1所述的方法，其特征在于，對(duì)所述目標(biāo)卷積核進(jìn)行拆分，還包括：

確定所述目標(biāo)卷積核中的異常分布系數(shù)；

根據(jù)所述異常分布系數(shù)對(duì)所述目標(biāo)卷積核進(jìn)行拆分。

4.由權(quán)利要求3所述的方法，其特征在于，確定所述目標(biāo)卷積核中的異常分布系數(shù)，還包括：

根據(jù)所述目標(biāo)卷積核包含的多個(gè)系數(shù)的系數(shù)分布標(biāo)準(zhǔn)差而確定第二閾值；

根據(jù)所確定的第二閾值確定所述目標(biāo)卷積核中的異常分布系數(shù)。

5.由權(quán)利要求3所述的方法，其特征在于，根據(jù)所述異常分布系數(shù)對(duì)所述目標(biāo)卷積核進(jìn)行拆分，還包括：

將所述目標(biāo)卷積核中的異常分布系數(shù)進(jìn)行分解，得到非異常的多個(gè)分解系數(shù)；

利用所述多個(gè)分解系數(shù)形成多個(gè)分組，其中每個(gè)分組包含所述多個(gè)分解系數(shù)的任意一個(gè)分解系數(shù)；

將所述目標(biāo)卷積核中的多個(gè)非異常分布系數(shù)分別劃分至所述多個(gè)分組中，其中每個(gè)分組包含至少一個(gè)所述非異常分布系數(shù)；

利用所述多個(gè)分組中的所述非異常分布系數(shù)和所述分解系數(shù)形成所述多個(gè)子卷積核。

6.由權(quán)利要求5所述的方法，其特征在于，將所述目標(biāo)卷積核中的異常分布系數(shù)進(jìn)行分解，得到非異常的多個(gè)分解系數(shù)，還包括：

利用二分法對(duì)所述異常分布系數(shù)進(jìn)行至少一次對(duì)半分解，直至得到所述非異常的多個(gè)分解系數(shù)，其中利用所述第二閾值判斷所述多個(gè)分解系數(shù)是否非異常。

7.由權(quán)利要求5所述的方法，其特征在于，將所述目標(biāo)卷積核中的多個(gè)非異常分布系數(shù)分別劃分至所述多個(gè)分組中，還包括：

基于均勻抽取操作將所述多個(gè)非異常分布系數(shù)分別劃分至所述多個(gè)分組中，使所述多個(gè)子卷積核中的系數(shù)分布均勻。

8.由權(quán)利要求1所述的方法，其特征在于，對(duì)所述多個(gè)子卷積核分別進(jìn)行量化，還包括：

根據(jù)所述多個(gè)子卷積核的系數(shù)分布確定量化邊界；

根據(jù)所確定的量化邊界和目標(biāo)量化位寬對(duì)所述多個(gè)子卷積核分別進(jìn)行線性量化。

9.一種神經(jīng)網(wǎng)絡(luò)模型的量化裝置，其特征在于，包括：

確定模塊，用于確定神經(jīng)網(wǎng)絡(luò)模型中系數(shù)分布異常的目標(biāo)卷積核；

拆分模塊，用于對(duì)所述目標(biāo)卷積核進(jìn)行拆分，得到多個(gè)子卷積核；

量化模塊，用于對(duì)所述多個(gè)子卷積核分別進(jìn)行量化以得到多個(gè)量化卷積核，并利用所述多個(gè)量化卷積核替代所述目標(biāo)卷積核。

10.由權(quán)利要求9所述的裝置，其特征在于，所述確定模塊還用于：

獲取所述神經(jīng)網(wǎng)絡(luò)模型中的任意一個(gè)待量化卷積核；

根據(jù)所述待量化卷積核包含的多個(gè)系數(shù)的系數(shù)分布標(biāo)準(zhǔn)差確定第一閾值；

確定所述待量化卷積核包含的多個(gè)系數(shù)中的最大值和/或最小值與均值之間的差值；

當(dāng)所述差值超過(guò)所述第一閾值，確定所述待量化卷積核為所述目標(biāo)卷積核。

11.由權(quán)利要求9所述的裝置，其特征在于，所述拆分模塊還用于：

確定所述目標(biāo)卷積核中的異常分布系數(shù)；

根據(jù)所述異常分布系數(shù)對(duì)所述目標(biāo)卷積核進(jìn)行拆分。