[發(fā)明專(zhuān)利]一種訓(xùn)練數(shù)據(jù)處理方法、裝置及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202010002753.1
• 申請(qǐng)日: 2020-01-02
• 公開(kāi)（公告）號(hào): CN111177100B
• 公開(kāi)（公告）日: 2023-05-12
• 發(fā)明（設(shè)計(jì)）人: 艾長(zhǎng)青;張力柯;荊彥青
• 申請(qǐng)（專(zhuān)利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類(lèi)號(hào): G06F16/18
• 分類(lèi)號(hào): G06F16/18;G06F16/14;G06F18/214
• 代理公司: 廣州三環(huán)專(zhuān)利商標(biāo)代理有限公司 44202
• 代理人: 熊永強(qiáng);賈允

本申請(qǐng)涉及一種訓(xùn)練數(shù)據(jù)處理方法、裝置及存儲(chǔ)介質(zhì)，所述方法包括：基于訓(xùn)練過(guò)程中的執(zhí)行信息，獲取當(dāng)前時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)；調(diào)用與所述訓(xùn)練任務(wù)解耦的數(shù)據(jù)寫(xiě)入工具，將所述訓(xùn)練數(shù)據(jù)寫(xiě)入訓(xùn)練數(shù)據(jù)日志文件中；檢測(cè)當(dāng)前的訓(xùn)練數(shù)據(jù)日志文件相對(duì)于上一時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)日志文件中的訓(xùn)練過(guò)程信息的增量信息；存儲(chǔ)所述訓(xùn)練過(guò)程信息的增量信息；當(dāng)接收到訓(xùn)練數(shù)據(jù)可視化請(qǐng)求時(shí)，查找與待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)對(duì)應(yīng)的訓(xùn)練過(guò)程信息，可視化所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)以及相應(yīng)的訓(xùn)練過(guò)程信息。本申請(qǐng)能夠在與訓(xùn)練任務(wù)解耦的情況下實(shí)現(xiàn)訓(xùn)練數(shù)據(jù)的可視化，并且支持根據(jù)待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)對(duì)待查詢(xún)?nèi)蝿?wù)的訓(xùn)練數(shù)據(jù)進(jìn)行查詢(xún)及可視化。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種訓(xùn)練數(shù)據(jù)處理方法、裝置及存儲(chǔ)介質(zhì)。

背景技術(shù)

模型訓(xùn)練是指采用大量已知的樣本數(shù)據(jù)對(duì)預(yù)設(shè)模型進(jìn)行訓(xùn)練，以得到能夠解決某一具體問(wèn)題的已訓(xùn)練模型的過(guò)程。一般在模型訓(xùn)練過(guò)程中，無(wú)法直接查看與模型訓(xùn)練相關(guān)的訓(xùn)練數(shù)據(jù)，這里的訓(xùn)練數(shù)據(jù)包括模型訓(xùn)練過(guò)程的狀態(tài)信息、進(jìn)度信息、迭代信息以及損失信息等。

為了對(duì)模型訓(xùn)練過(guò)程中的相關(guān)訓(xùn)練數(shù)據(jù)進(jìn)行可視化處理，現(xiàn)有技術(shù)中提出的訓(xùn)練數(shù)據(jù)可視化的方法主要包括兩種：第一種是在訓(xùn)練結(jié)束或者訓(xùn)練過(guò)程中，通過(guò)對(duì)記錄有訓(xùn)練數(shù)據(jù)的日志進(jìn)行解析，但是在大規(guī)模部署訓(xùn)練任務(wù)時(shí)，難以保證解析日志的實(shí)時(shí)性和健壯性；另一種是采用第三方算法框架來(lái)實(shí)現(xiàn)訓(xùn)練數(shù)據(jù)日志的記錄及查看，由于其日志名稱(chēng)是自動(dòng)命名的，無(wú)法區(qū)分日志所屬的訓(xùn)練任務(wù)，從而無(wú)法支持按訓(xùn)練任務(wù)查詢(xún)?nèi)罩局械挠?xùn)練數(shù)據(jù)。

發(fā)明內(nèi)容

本申請(qǐng)所要解決的技術(shù)問(wèn)題在于，提供一種訓(xùn)練數(shù)據(jù)處理方法、裝置及存儲(chǔ)介質(zhì)，能夠在與訓(xùn)練任務(wù)解耦的情況下實(shí)現(xiàn)訓(xùn)練數(shù)據(jù)的可視化，并且支持根據(jù)待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)對(duì)待查詢(xún)?nèi)蝿?wù)的訓(xùn)練數(shù)據(jù)進(jìn)行查詢(xún)及可視化。

為了解決上述技術(shù)問(wèn)題，一方面，本申請(qǐng)?zhí)峁┝艘环N訓(xùn)練數(shù)據(jù)處理方法，所述方法包括：

基于訓(xùn)練過(guò)程中的執(zhí)行信息，獲取當(dāng)前時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)，所述訓(xùn)練數(shù)據(jù)包括訓(xùn)練任務(wù)的任務(wù)標(biāo)識(shí)以及相應(yīng)的訓(xùn)練過(guò)程信息；

調(diào)用與所述訓(xùn)練任務(wù)解耦的數(shù)據(jù)寫(xiě)入工具，將所述訓(xùn)練數(shù)據(jù)寫(xiě)入訓(xùn)練數(shù)據(jù)日志文件中；

檢測(cè)當(dāng)前的訓(xùn)練數(shù)據(jù)日志文件相對(duì)于上一時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)日志文件中的訓(xùn)練過(guò)程信息的增量信息；

存儲(chǔ)所述訓(xùn)練過(guò)程信息的增量信息；

當(dāng)接收到訓(xùn)練數(shù)據(jù)可視化請(qǐng)求時(shí)，所述訓(xùn)練數(shù)據(jù)可視化請(qǐng)求包括待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)，基于所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)，查找與所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)對(duì)應(yīng)的訓(xùn)練過(guò)程信息，可視化所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)以及相應(yīng)的訓(xùn)練過(guò)程信息。

另一方面，本申請(qǐng)?zhí)峁┝艘环N訓(xùn)練數(shù)據(jù)處理裝置，所述裝置包括：

訓(xùn)練數(shù)據(jù)獲取模塊，用于基于訓(xùn)練過(guò)程中的執(zhí)行信息，獲取當(dāng)前時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)，所述訓(xùn)練數(shù)據(jù)包括訓(xùn)練任務(wù)的任務(wù)標(biāo)識(shí)以及相應(yīng)的訓(xùn)練過(guò)程信息；

訓(xùn)練數(shù)據(jù)寫(xiě)入模塊，用于調(diào)用與所述訓(xùn)練任務(wù)解耦的數(shù)據(jù)寫(xiě)入工具，將所述訓(xùn)練數(shù)據(jù)寫(xiě)入訓(xùn)練數(shù)據(jù)日志文件中；

增量信息檢測(cè)模塊，用于檢測(cè)當(dāng)前的訓(xùn)練數(shù)據(jù)日志文件相對(duì)于上一時(shí)間節(jié)點(diǎn)的訓(xùn)練數(shù)據(jù)日志文件中的訓(xùn)練過(guò)程信息的增量信息；

增量信息存儲(chǔ)模塊，用于存儲(chǔ)所述訓(xùn)練過(guò)程信息的增量信息；

可視化模塊，用于當(dāng)接收到訓(xùn)練數(shù)據(jù)可視化請(qǐng)求時(shí)，所述訓(xùn)練數(shù)據(jù)可視化請(qǐng)求包括待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)，基于所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)，查找與所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)對(duì)應(yīng)的訓(xùn)練過(guò)程信息，可視化所述待查詢(xún)?nèi)蝿?wù)標(biāo)識(shí)以及相應(yīng)的訓(xùn)練過(guò)程信息。

另一方面，本申請(qǐng)?zhí)峁┝艘环N設(shè)備，所述設(shè)備包括處理器和存儲(chǔ)器，所述存儲(chǔ)器中存儲(chǔ)有至少一條指令或至少一段程序，所述至少一條指令或所述至少一段程序由處理器加載并執(zhí)行如上述的訓(xùn)練數(shù)據(jù)處理方法。