[發(fā)明專利]基于區(qū)塊鏈的模型輕量化方法、裝置、設(shè)備及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202210047608.4
• 申請日: 2022-01-17
• 公開（公告）號: CN114462595A
• 公開（公告）日: 2022-05-10
• 發(fā)明（設(shè)計）人: 胡卓杰;張亞京;謝利江
• 申請（專利權(quán)）人: 鹽城矩陣運營管理有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06K9/62;G06Q30/06
• 代理公司: 北京中強(qiáng)智尚知識產(chǎn)權(quán)代理有限公司 11448
• 代理人: 呂夢雪

本申請公開了一種基于區(qū)塊鏈的模型輕量化方法、裝置、設(shè)備及存儲介質(zhì)，涉及區(qū)塊鏈技術(shù)領(lǐng)域，可以區(qū)塊鏈網(wǎng)絡(luò)的引入，實現(xiàn)分布式協(xié)同建模，再使用低比特量化機(jī)制對推薦模型進(jìn)行輕量化壓縮，有效提升模型的精確度，減小推薦模型在移動終端進(jìn)行模型優(yōu)化或推理的功耗和時延。所述方法包括：獲取目標(biāo)模型參數(shù)，基于約束算法，將目標(biāo)模型參數(shù)約束為低比特目標(biāo)模型參數(shù)；在本地數(shù)據(jù)庫中查詢初始模型對應(yīng)的參數(shù)目標(biāo)，根據(jù)參數(shù)目標(biāo)，計算低比特目標(biāo)模型參數(shù)與預(yù)設(shè)聚類中心的參數(shù)距離；將參數(shù)距離與預(yù)設(shè)距離進(jìn)行比對，生成第一比對結(jié)果；當(dāng)?shù)谝槐葘Y(jié)果指示參數(shù)距離小于等于預(yù)設(shè)距離時，得到輕量化模型，將輕量化模型上傳至區(qū)塊鏈網(wǎng)絡(luò)。

技術(shù)領(lǐng)域

本申請涉及區(qū)塊鏈技術(shù)領(lǐng)域，特別是涉及一種基于區(qū)塊鏈的模型輕量化方法、裝置、設(shè)備及存儲介質(zhì)。

背景技術(shù)

近年來，隨著深度神經(jīng)網(wǎng)絡(luò)在電商個性化推薦、圖像識別以及自然語言處理等領(lǐng)域的不斷發(fā)展，大幅度提升了電商平臺圖像數(shù)據(jù)分類、目標(biāo)檢測、語義分析等任務(wù)的性能，基本滿足了實際使用的精度需求。

相關(guān)技術(shù)中，電商平臺確定卷積神經(jīng)網(wǎng)絡(luò)，將模型參數(shù)發(fā)送至各個移動終端，各個移動終端根據(jù)接收到的模型參數(shù)進(jìn)行模型訓(xùn)練，將訓(xùn)練完成后的模型參數(shù)發(fā)送至電商平臺進(jìn)行聚合，生成推薦模型。隨后，由電商平臺將推薦模型發(fā)送至各個移動終端進(jìn)行個性化推薦。

在實現(xiàn)本申請的過程中，申請人發(fā)現(xiàn)相關(guān)技術(shù)至少存在以下問題：

由于電商與移動終端之前的計算平臺不同，存儲資源和計算資源也大不相同，進(jìn)而對推薦模型的訓(xùn)練和推理產(chǎn)生影響，使得推薦模型在移動終端面臨資源限制，導(dǎo)致模型優(yōu)化或推理的功耗較大，時延較高。

發(fā)明內(nèi)容

有鑒于此，本申請?zhí)峁┝艘环N基于區(qū)塊鏈的模型輕量化方法、裝置、設(shè)備及存儲介質(zhì)，主要目的在于解決目前由于電商與移動終端之前的計算平臺不同，存儲資源和計算資源也大不相同，進(jìn)而對推薦模型的訓(xùn)練和推理產(chǎn)生影響，使得推薦模型在移動終端面臨資源限制，導(dǎo)致模型優(yōu)化或推理的功耗較大，時延較高的問題。

依據(jù)本申請第一方面，提供了一種基于區(qū)塊鏈的模型輕量化方法，該方法應(yīng)用于區(qū)塊鏈網(wǎng)絡(luò)中發(fā)布任務(wù)的中心節(jié)點，包括：

獲取目標(biāo)模型參數(shù)，基于約束算法，將所述目標(biāo)模型參數(shù)約束為低比特目標(biāo)模型參數(shù)；

在本地數(shù)據(jù)庫中查詢初始模型對應(yīng)的參數(shù)目標(biāo)，根據(jù)所述參數(shù)目標(biāo)，計算所述低比特目標(biāo)模型參數(shù)與預(yù)設(shè)聚類中心的參數(shù)距離；

將所述參數(shù)距離與預(yù)設(shè)距離進(jìn)行比對，生成第一比對結(jié)果；

當(dāng)所述第一比對結(jié)果指示所述參數(shù)距離小于等于所述預(yù)設(shè)距離時，得到所述輕量化模型，將所述輕量化模型上傳至區(qū)塊鏈網(wǎng)絡(luò)。

可選地，所述獲取目標(biāo)模型參數(shù)，基于約束算法，將所述目標(biāo)模型參數(shù)約束為低比特目標(biāo)模型參數(shù)，包括：

在區(qū)塊鏈網(wǎng)絡(luò)中下載其它區(qū)塊鏈節(jié)點上傳的多個子模型參數(shù)，對所述多個子模型參數(shù)進(jìn)行參數(shù)聚合，得到所述目標(biāo)模型參數(shù)；

將所述目標(biāo)模型參數(shù)指示的多個參數(shù)分量分別與所述第一預(yù)設(shè)閾值進(jìn)行比對，生成第二比對結(jié)果；

若所述第二比對結(jié)果指示所述參數(shù)分量大于第一預(yù)設(shè)閾值，則將所述參數(shù)分量約束為第一預(yù)設(shè)數(shù)值，若所述第二比對結(jié)果指示所述參數(shù)分量等于所述第一預(yù)設(shè)閾值，則將所述參數(shù)分量約束為第二預(yù)設(shè)數(shù)值，若所述第二比對結(jié)果指示所述參數(shù)分量小于所述第一預(yù)設(shè)閾值，則將所述參數(shù)分量約束為第三預(yù)設(shè)數(shù)值；

對所述多個參數(shù)分量中每個參數(shù)分量進(jìn)行參數(shù)約束，得到所述低比特目標(biāo)模型參數(shù)。

可選地，所述根據(jù)所述參數(shù)目標(biāo)，計算所述低比特目標(biāo)模型參數(shù)與預(yù)設(shè)聚類中心的參數(shù)距離，包括：