[發(fā)明專利]一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201711245791.4
• 申請(qǐng)日: 2017-12-01
• 公開(kāi)（公告）號(hào): CN108009089B
• 公開(kāi)（公告）日: 2021-02-02
• 發(fā)明（設(shè)計(jì)）人: 梁中鶴;郭克華
• 申請(qǐng)（專利權(quán)）人: 中南大學(xué)
• 主分類號(hào): G06F11/36
• 分類號(hào): G06F11/36;G06N20/00;H04L29/06
• 代理公司: 長(zhǎng)沙正奇專利事務(wù)所有限責(zé)任公司 43113
• 代理人: 馬強(qiáng);王娟

本發(fā)明公開(kāi)了一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)方法及系統(tǒng)，采用了基于透明計(jì)算的增量機(jī)器學(xué)習(xí)框架，使得其可以在低網(wǎng)絡(luò)依賴的前提下，高效的進(jìn)行機(jī)器學(xué)習(xí)。并且本發(fā)明將訓(xùn)練數(shù)據(jù)進(jìn)行拆分處理，在保證了測(cè)試精確度的情況下大幅降低了機(jī)器學(xué)習(xí)的時(shí)間消耗，提高了機(jī)器學(xué)習(xí)的效率。另外，本發(fā)明還通過(guò)增量式的反饋學(xué)習(xí)，不斷地提高機(jī)器學(xué)習(xí)的準(zhǔn)確性。

技術(shù)領(lǐng)域

本發(fā)明涉及機(jī)器學(xué)習(xí)領(lǐng)域，特別是一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)方法及系統(tǒng)。

背景技術(shù)

隨著移動(dòng)網(wǎng)絡(luò)和各種輕量級(jí)客戶端的普及，物聯(lián)網(wǎng)不斷地改變著我們的日常生活。智能手機(jī)、可穿戴設(shè)備和移動(dòng)傳感器等各種物聯(lián)網(wǎng)應(yīng)用已經(jīng)廣泛應(yīng)用于醫(yī)療、智能家居、環(huán)境監(jiān)測(cè)、智能交通等領(lǐng)域。傳統(tǒng)上，輕量級(jí)客戶端只具有數(shù)據(jù)收集和數(shù)據(jù)顯示的能力。然而，在許多情況下，為了能夠確保實(shí)時(shí)性能，我們更傾向于使得客戶端具有一些職能功能，比如面部識(shí)別、目標(biāo)檢測(cè)等，這些功能不需要將數(shù)據(jù)傳送到服務(wù)器進(jìn)行處理。另外，在一些諸如隧道、偏遠(yuǎn)地方等網(wǎng)絡(luò)連接較差的地區(qū)，我們更希望客戶端具備智能能力。因此，智能化已經(jīng)逐漸成為了物聯(lián)網(wǎng)環(huán)境下的各類客戶的基本要求。

機(jī)器學(xué)習(xí)可以分為無(wú)監(jiān)督學(xué)習(xí)和監(jiān)督學(xué)習(xí)，它是實(shí)現(xiàn)機(jī)器智能的一種有代表性的技術(shù)。與無(wú)監(jiān)督學(xué)習(xí)相比，監(jiān)督學(xué)習(xí)的應(yīng)用更為廣泛。監(jiān)督學(xué)習(xí)通常包括數(shù)據(jù)訓(xùn)練和數(shù)據(jù)測(cè)試，前者輸入大量的訓(xùn)練數(shù)據(jù)，然后使用相應(yīng)的算法生成相應(yīng)的測(cè)試模型，而后者使用測(cè)試模型來(lái)對(duì)新的樣本進(jìn)行分析判斷。一般來(lái)說(shuō)，數(shù)據(jù)訓(xùn)練需要消耗大量的計(jì)算資源，但是一旦測(cè)試模型生成，測(cè)試就可以以很少的計(jì)算資源快速地完成。

在客戶端不斷輕量化和小型化的趨勢(shì)下，物聯(lián)網(wǎng)環(huán)境下的機(jī)器學(xué)習(xí)面臨著新的問(wèn)題，即計(jì)算能力和服務(wù)需求的不匹配。具體而言，包括以下幾個(gè)方面：

(1)客戶端的異構(gòu)性。客戶端采集到的數(shù)據(jù)往往來(lái)自不同的設(shè)備，例如傳感器、程序生成、用戶生成等等。不同的設(shè)備需要兼容性各不相同的訓(xùn)練算法，使得訓(xùn)練成本大幅提高。

(2)計(jì)算能力有限。客戶端的計(jì)算能力往往很難存儲(chǔ)大量的數(shù)據(jù)，也很難對(duì)其進(jìn)行較為復(fù)雜的運(yùn)算處理。

(3)通信消耗。當(dāng)大量數(shù)據(jù)需要傳輸?shù)皆贫朔?wù)器進(jìn)行處理的情況下，服務(wù)可能會(huì)因?yàn)榇罅康耐ㄐ畔亩a(chǎn)生延遲，并且訓(xùn)練過(guò)程只能在線完成，并不能離線進(jìn)行。

發(fā)明內(nèi)容

本發(fā)明所要解決的技術(shù)問(wèn)題是，針對(duì)現(xiàn)有技術(shù)不足，提供一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)方法及系統(tǒng)，避免多客戶端差異造成的兼容問(wèn)題，緩解因計(jì)算能力不足而導(dǎo)致的系統(tǒng)延遲，緩解由于單個(gè)節(jié)點(diǎn)存儲(chǔ)能力有限而造成的IO阻塞的問(wèn)題，降低由于通信消耗而造成的系統(tǒng)延遲，提高用戶體驗(yàn)度。

為解決上述技術(shù)問(wèn)題，本發(fā)明所采用的技術(shù)方案是：一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)方法，包括以下步驟：

1)透明客戶端、透明服務(wù)器以及邊緣節(jié)點(diǎn)同時(shí)進(jìn)行數(shù)據(jù)采集；其中，透明客戶端采集到的數(shù)據(jù)發(fā)送到透明服務(wù)器以及邊緣節(jié)點(diǎn)的存儲(chǔ)空間中；

2)透明服務(wù)器和邊緣節(jié)點(diǎn)根據(jù)采集到的數(shù)據(jù)以及各自的計(jì)算能力分別對(duì)各自節(jié)點(diǎn)上的數(shù)據(jù)進(jìn)行訓(xùn)練；

3)透明服務(wù)器和邊緣節(jié)點(diǎn)將訓(xùn)練生成的測(cè)試模型分別發(fā)送到相應(yīng)的透明客戶端中；

4)將測(cè)試數(shù)據(jù)分別根據(jù)不同節(jié)點(diǎn)以及服務(wù)器獲得的測(cè)試模型進(jìn)行測(cè)試，透明客戶端對(duì)靜態(tài)的測(cè)試結(jié)果進(jìn)行整理，根據(jù)測(cè)試結(jié)果的分類概率進(jìn)行均值計(jì)算，進(jìn)而更新最終的測(cè)試結(jié)果；

5)用戶根據(jù)得到的最終的測(cè)試結(jié)果進(jìn)行獨(dú)立判斷，并將判斷結(jié)果反饋到透明服務(wù)器或邊緣節(jié)點(diǎn)中；透明服務(wù)器和邊緣節(jié)點(diǎn)收集到來(lái)自用戶反饋的數(shù)據(jù)信息，暫時(shí)存儲(chǔ)起來(lái)，等待收集到的反饋信息積累到一定的量，即各個(gè)類別的反饋數(shù)據(jù)信息都達(dá)到了可以進(jìn)行訓(xùn)練的數(shù)量，重復(fù)步驟2)到步驟4)。。

相應(yīng)的，本發(fā)明還提供了一種基于透明計(jì)算的增量機(jī)器學(xué)習(xí)系統(tǒng)，其包括：