[發(fā)明專(zhuān)利]面向聯(lián)邦機(jī)器學(xué)習(xí)的全流程服務(wù)遷移方法與系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110290587.4
• 申請(qǐng)日: 2021-03-18
• 公開(kāi)（公告）號(hào): CN112884165B
• 公開(kāi)（公告）日: 2023-07-04
• 發(fā)明（設(shè)計(jì)）人: 邢廷炎;周長(zhǎng)兵;楊艷霞
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中國(guó)地質(zhì)大學(xué)（北京）
• 主分類(lèi)號(hào): G06N20/00
• 分類(lèi)號(hào): G06N20/00;G06F18/25;G06N3/098;G06F16/215
• 代理公司: 北京君莫知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11715
• 代理人: 崔云鶴

1.一種面向聯(lián)邦機(jī)器學(xué)習(xí)的全流程服務(wù)遷移系統(tǒng)，包括分布在不同地址的多個(gè)設(shè)備(1)；每個(gè)設(shè)備(1)包括相應(yīng)的模型創(chuàng)建模塊(2)、數(shù)據(jù)清理模塊(3)、數(shù)據(jù)傳感模塊(6)和數(shù)據(jù)讀取模塊(11)；所述模型創(chuàng)建模塊(2)和所述數(shù)據(jù)傳感模塊(6)數(shù)據(jù)通信連接；

數(shù)據(jù)訓(xùn)練融合子模塊(4)，所述數(shù)據(jù)訓(xùn)練融合子模塊(4)設(shè)置于部分所述設(shè)備上；數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)，所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)設(shè)置于其中一個(gè)所述設(shè)備(1)上；所有設(shè)備(1)都包括單機(jī)存儲(chǔ)模塊(7)，設(shè)置有所述數(shù)據(jù)訓(xùn)練融合子模塊(4)的設(shè)備上設(shè)置局域數(shù)據(jù)存儲(chǔ)模塊(8)，設(shè)置有所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)的所述設(shè)備(1)設(shè)置有全局?jǐn)?shù)據(jù)存儲(chǔ)模塊(9)；聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)，所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)對(duì)所有參與聯(lián)邦機(jī)器學(xué)習(xí)的設(shè)備、工作模塊和數(shù)據(jù)進(jìn)度調(diào)度；所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)數(shù)據(jù)通信連接所述數(shù)據(jù)讀取模塊(11)、所述數(shù)據(jù)訓(xùn)練融合子模塊(4)和所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)；所述模型創(chuàng)建模塊(2)和所述單機(jī)存儲(chǔ)模塊(7)數(shù)據(jù)通信連接，所述單機(jī)存儲(chǔ)模塊(7)還分別和所述數(shù)據(jù)清理模塊(3)和數(shù)據(jù)讀取模塊(11)數(shù)據(jù)通信連接；

其特征在于：

所述設(shè)備(1)在運(yùn)行時(shí)，所述數(shù)據(jù)傳感模塊(6)獲取安裝在該設(shè)備(1)上的運(yùn)行數(shù)據(jù)和狀態(tài)數(shù)據(jù)，并發(fā)送給所述模型創(chuàng)建模塊(2)，形成數(shù)據(jù)記錄，并將所述數(shù)據(jù)記錄存儲(chǔ)于所述設(shè)備(1)的所述單機(jī)存儲(chǔ)模塊(7)，所述數(shù)據(jù)清理模塊(3)讀取存儲(chǔ)于所述單機(jī)存儲(chǔ)模塊(7)中的所述數(shù)據(jù)記錄，并利用數(shù)理統(tǒng)計(jì)方法和設(shè)定的要求去分析每條所述數(shù)據(jù)記錄，在發(fā)現(xiàn)某條數(shù)據(jù)記錄出現(xiàn)明顯不合理時(shí)，將該條數(shù)據(jù)記錄刪除；所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)對(duì)所有的設(shè)備(1)進(jìn)行分組，將所有的所述設(shè)備(1)按照一定的規(guī)則分成數(shù)個(gè)分組，并保證每個(gè)所述分組中存在至少一個(gè)所述數(shù)據(jù)訓(xùn)練融合子模塊(4)，并將所述分組的信息發(fā)送給所述數(shù)據(jù)讀取模塊(11)、所述數(shù)據(jù)訓(xùn)練融合子模塊(4)和所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)，并且修改所述數(shù)據(jù)讀取模塊(11)、所述數(shù)據(jù)訓(xùn)練融合子模塊(4)和所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)的所述數(shù)據(jù)記錄的讀取權(quán)限；

所述數(shù)據(jù)訓(xùn)練融合子模塊(4)依據(jù)所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)分配的讀取權(quán)限，和其對(duì)應(yīng)的分組的所述數(shù)據(jù)讀取模塊(11)建立數(shù)據(jù)通信連接，從而所述數(shù)據(jù)訓(xùn)練融合子模塊(4)通過(guò)所述數(shù)據(jù)讀取模塊(11)讀取存儲(chǔ)于所述單機(jī)存儲(chǔ)模塊(7)中存儲(chǔ)的數(shù)據(jù)記錄進(jìn)行數(shù)據(jù)學(xué)習(xí)訓(xùn)練，得出數(shù)據(jù)聯(lián)邦子模型，并將該數(shù)據(jù)聯(lián)邦子模型和隨機(jī)從獲得該數(shù)據(jù)聯(lián)邦子模型中應(yīng)用的數(shù)據(jù)記錄中抽取一定量的數(shù)據(jù)記錄發(fā)送給所述局域數(shù)據(jù)存儲(chǔ)模塊(8)；

所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)讀取存儲(chǔ)于所述局域數(shù)據(jù)存儲(chǔ)模塊(8)中的所述數(shù)據(jù)聯(lián)邦子模型和所述數(shù)據(jù)記錄，對(duì)所有所述聯(lián)邦子模型采取參數(shù)加權(quán)的模式得出總的數(shù)據(jù)聯(lián)邦模型，并利用讀取的抽取的數(shù)據(jù)記錄進(jìn)行數(shù)據(jù)訓(xùn)練，從而得出總的數(shù)據(jù)聯(lián)邦模型，并發(fā)送給所述全局?jǐn)?shù)據(jù)存儲(chǔ)模塊(9)進(jìn)行存儲(chǔ)；所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)從所有設(shè)備上的所述單機(jī)存儲(chǔ)模塊(7)任意抽取一定數(shù)量的數(shù)據(jù)記錄，用于對(duì)所述總的數(shù)據(jù)聯(lián)邦模型進(jìn)行校驗(yàn)，在所述數(shù)據(jù)記錄利用該總的數(shù)據(jù)聯(lián)邦模型進(jìn)行校驗(yàn)中，數(shù)據(jù)輸出和數(shù)據(jù)記錄中的數(shù)據(jù)符合模型精度要求時(shí)，則該總的數(shù)據(jù)聯(lián)邦模型建立完成，否則，在所述局域數(shù)據(jù)存儲(chǔ)模塊(8)中儲(chǔ)存的隨機(jī)抽取的數(shù)據(jù)記錄重新隨機(jī)抽取，并再次利用所述數(shù)據(jù)訓(xùn)練聯(lián)合模塊(5)進(jìn)行建立總的數(shù)據(jù)聯(lián)邦模型的過(guò)程；

在利用所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)對(duì)所有的設(shè)備(1)進(jìn)行分組時(shí)，預(yù)先獲取各所述設(shè)備(1)的數(shù)據(jù)記錄量的大小，并且分組時(shí)，將數(shù)據(jù)記錄量大的在同一分組，而數(shù)據(jù)記錄量小的為一個(gè)分組，以便防止數(shù)據(jù)記錄量大的數(shù)據(jù)記錄在進(jìn)行數(shù)據(jù)訓(xùn)練時(shí)淹沒(méi)了數(shù)量記錄量小的數(shù)據(jù)，以便構(gòu)建總的數(shù)據(jù)聯(lián)邦模型準(zhǔn)確性；在利用所述聯(lián)邦機(jī)器學(xué)習(xí)調(diào)度模塊(10)對(duì)所有的設(shè)備(1)進(jìn)行分組時(shí)，預(yù)先獲取各所述設(shè)備(1)的數(shù)據(jù)記錄量的大小，并且分組時(shí)，對(duì)數(shù)據(jù)記錄量大的分組的所述設(shè)備(1)的數(shù)量少，而數(shù)據(jù)記錄量小的分組，所述設(shè)備(1)的數(shù)量多。

2.根據(jù)權(quán)利要求1所述的一種面向聯(lián)邦機(jī)器學(xué)習(xí)的全流程服務(wù)遷移系統(tǒng)，其特征在于：在各分組利用所述數(shù)據(jù)訓(xùn)練融合子模塊(4)進(jìn)行數(shù)據(jù)訓(xùn)練生成所述數(shù)據(jù)聯(lián)邦子模型時(shí)，為了增加訓(xùn)練數(shù)據(jù)的維度，對(duì)所述分組，部分分組采用縱向數(shù)據(jù)聯(lián)邦學(xué)習(xí)，剩余部分分組采用聯(lián)邦遷移學(xué)習(xí)；或部分分組采用縱向聯(lián)邦數(shù)據(jù)學(xué)習(xí)、部分分組采用橫向聯(lián)邦學(xué)習(xí)，聲音部分采用聯(lián)邦遷移學(xué)習(xí)。