[發(fā)明專利]基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法、裝置、設(shè)備和介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110233577.7
• 申請(qǐng)日: 2021-03-03
• 公開（公告）號(hào): CN113792883A
• 公開（公告）日: 2021-12-14
• 發(fā)明（設(shè)計(jì)）人: 李怡欣;張一凡;王虎;黃志翔;彭南博
• 申請(qǐng)（專利權(quán)）人: 京東科技控股股份有限公司
• 主分類號(hào): G06N20/00
• 分類號(hào): G06N20/00;G06K9/62
• 代理公司: 北京英賽嘉華知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11204
• 代理人: 王達(dá)佐;馬曉亞

本申請(qǐng)公開了一種基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法、裝置、設(shè)備和介質(zhì)，該方法的一具體實(shí)施方式包括：在專家經(jīng)驗(yàn)標(biāo)簽庫中獲取第一訓(xùn)練標(biāo)簽集合和第二訓(xùn)練標(biāo)簽，專家經(jīng)驗(yàn)標(biāo)簽庫包括多個(gè)基于專家經(jīng)驗(yàn)設(shè)置的訓(xùn)練標(biāo)簽，第一訓(xùn)練標(biāo)簽集合中包括多個(gè)不同的第一訓(xùn)練標(biāo)簽；對(duì)于各個(gè)數(shù)據(jù)端，在第一訓(xùn)練標(biāo)簽集合中確定該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，并基于該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，對(duì)該數(shù)據(jù)端中的模型進(jìn)行訓(xùn)練；獲取各個(gè)數(shù)據(jù)端根據(jù)訓(xùn)練好的模型發(fā)送的訓(xùn)練數(shù)據(jù)；根據(jù)訓(xùn)練數(shù)據(jù)和第二訓(xùn)練標(biāo)簽，對(duì)整合模型進(jìn)行訓(xùn)練，以使訓(xùn)練好的整合模型對(duì)各個(gè)數(shù)據(jù)端發(fā)送的數(shù)據(jù)進(jìn)行整合。該實(shí)施方式能夠提升模型訓(xùn)練效果。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體涉及人工智能領(lǐng)域，尤其涉及基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法、裝置、設(shè)備和介質(zhì)。

背景技術(shù)

目前，對(duì)于機(jī)器學(xué)習(xí)而言，數(shù)據(jù)尤為重要。通過聚合多方數(shù)據(jù)進(jìn)行聯(lián)邦學(xué)習(xí)，能夠提高機(jī)器學(xué)習(xí)中模型訓(xùn)練的效果。

現(xiàn)在常見的基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法通常是基于單個(gè)標(biāo)簽進(jìn)行訓(xùn)練，如果單個(gè)標(biāo)簽的標(biāo)簽內(nèi)容設(shè)置較為不合理，會(huì)導(dǎo)致模型訓(xùn)練的效果不佳。

發(fā)明內(nèi)容

提供了一種基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法、裝置、設(shè)備和介質(zhì)。

第一方面，本公開的實(shí)施例提供了一種基于聯(lián)邦學(xué)習(xí)的模型訓(xùn)練方法，應(yīng)用于業(yè)務(wù)端，包括：在專家經(jīng)驗(yàn)標(biāo)簽庫中獲取第一訓(xùn)練標(biāo)簽集合和第二訓(xùn)練標(biāo)簽，專家經(jīng)驗(yàn)標(biāo)簽庫包括多個(gè)基于專家經(jīng)驗(yàn)設(shè)置的訓(xùn)練標(biāo)簽，第一訓(xùn)練標(biāo)簽集合中包括多個(gè)不同的第一訓(xùn)練標(biāo)簽；對(duì)于各個(gè)數(shù)據(jù)端，在第一訓(xùn)練標(biāo)簽集合中確定該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，并基于該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，對(duì)該數(shù)據(jù)端中的模型進(jìn)行訓(xùn)練；獲取各個(gè)數(shù)據(jù)端根據(jù)訓(xùn)練好的模型發(fā)送的訓(xùn)練數(shù)據(jù)；根據(jù)訓(xùn)練數(shù)據(jù)和第二訓(xùn)練標(biāo)簽，對(duì)整合模型進(jìn)行訓(xùn)練，以使訓(xùn)練好的整合模型對(duì)各個(gè)數(shù)據(jù)端發(fā)送的數(shù)據(jù)進(jìn)行整合。

在一些實(shí)施例中，基于該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，對(duì)該數(shù)據(jù)端中的模型進(jìn)行訓(xùn)練，包括：獲取該數(shù)據(jù)端中的模型進(jìn)行數(shù)據(jù)壓縮處理后輸出的壓縮數(shù)據(jù)；基于壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向，以使該數(shù)據(jù)端中的模型根據(jù)優(yōu)化方向進(jìn)行訓(xùn)練。

在一些實(shí)施例中，基于壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向，包括：響應(yīng)于確定該數(shù)據(jù)端中的模型未訓(xùn)練好，基于各個(gè)數(shù)據(jù)端中其它數(shù)據(jù)端訓(xùn)練好的模型、壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向。

在一些實(shí)施例中，基于壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向，包括：響應(yīng)于確定該數(shù)據(jù)端未掉線且未出現(xiàn)延遲，基于壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向。

在一些實(shí)施例中，獲取各個(gè)數(shù)據(jù)端根據(jù)訓(xùn)練好的模型發(fā)送的訓(xùn)練數(shù)據(jù)，包括：在各個(gè)數(shù)據(jù)端中確定未掉線且未出現(xiàn)延遲的目標(biāo)數(shù)據(jù)端；獲取目標(biāo)數(shù)據(jù)端根據(jù)訓(xùn)練好的模型發(fā)送的訓(xùn)練數(shù)據(jù)。

在一些實(shí)施例中，基于壓縮數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向，包括：確定該數(shù)據(jù)端對(duì)應(yīng)的至少一個(gè)同組數(shù)據(jù)端；獲取各個(gè)同組數(shù)據(jù)端發(fā)送的壓縮處理后的同組數(shù)據(jù)；利用該數(shù)據(jù)端對(duì)應(yīng)的協(xié)同器，整合同組數(shù)據(jù)和壓縮數(shù)據(jù)，得到整合數(shù)據(jù)；基于整合數(shù)據(jù)和該數(shù)據(jù)端對(duì)應(yīng)的第一訓(xùn)練標(biāo)簽，向該數(shù)據(jù)端中的模型返回相應(yīng)的優(yōu)化方向。

在一些實(shí)施例中，根據(jù)訓(xùn)練數(shù)據(jù)和第二訓(xùn)練標(biāo)簽，對(duì)整合模型進(jìn)行訓(xùn)練，包括：從訓(xùn)練數(shù)據(jù)中選取樣本數(shù)據(jù)，并執(zhí)行以下訓(xùn)練步驟：將樣本數(shù)據(jù)輸入初始模型，得到初始模型輸出的輸出結(jié)果；基于輸出結(jié)果和第二訓(xùn)練標(biāo)簽，確定初始模型的損失函數(shù)的損失值；響應(yīng)于損失值滿足預(yù)設(shè)收斂條件，將初始模型作為訓(xùn)練好的整合模型。

在一些實(shí)施例中，上述方法還包括：響應(yīng)于損失值不滿足預(yù)設(shè)收斂條件，調(diào)整初始模型中的相關(guān)參數(shù)，并在訓(xùn)練數(shù)據(jù)中重新選取樣本數(shù)據(jù)，繼續(xù)執(zhí)行訓(xùn)練步驟。