[發(fā)明專利]一種圖神經(jīng)網(wǎng)絡(luò)特征產(chǎn)生方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110873070.8
• 申請(qǐng)日: 2021-07-30
• 公開（公告）號(hào): CN113554111A
• 公開（公告）日: 2021-10-26
• 發(fā)明（設(shè)計(jì)）人: 田興邦
• 申請(qǐng)（專利權(quán)）人: 天陽宏業(yè)科技股份有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京知呱呱知識(shí)產(chǎn)權(quán)代理有限公司 11577
• 代理人: 張永維

本發(fā)明公開了一種圖神經(jīng)網(wǎng)絡(luò)特征產(chǎn)生方法，所述方法為：從已有的維度制作衍生維度，通過圖形理論將客戶或數(shù)據(jù)值表征為圖中的節(jié)點(diǎn)，相關(guān)節(jié)點(diǎn)用邊進(jìn)行連接；可將多個(gè)維度的數(shù)值分箱或分桶成有限的數(shù)量；一個(gè)維度在處理后可能值為n個(gè)值，每個(gè)值為圖中的一個(gè)節(jié)點(diǎn)，對(duì)每一樣本產(chǎn)生對(duì)應(yīng)的邊；產(chǎn)生圖后，通過圖神經(jīng)網(wǎng)絡(luò)產(chǎn)生每一節(jié)點(diǎn)的高維度坐標(biāo)；相似的節(jié)點(diǎn)會(huì)被映射到空間中相臨近的位置，產(chǎn)生獨(dú)特的特征。本發(fā)明解決了現(xiàn)有特征工程具有不確定性和隨機(jī)性的問題。

技術(shù)領(lǐng)域

本發(fā)明涉及神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，具體涉及一種圖神經(jīng)網(wǎng)絡(luò)特征產(chǎn)生方法。

背景技術(shù)

目前推薦和分類算法常用的方法包括：邏輯回歸、線性回歸、決策樹及其衍生版Extreme Gradient Boosting Decision Tree(XGBDT)或Light Gradient BoostingDecision Tree,Gradient Boosting Classifier、隨機(jī)森林、向量機(jī)(Support VectorMachine)。

此類算法的輸入多為結(jié)構(gòu)化的數(shù)據(jù)，例如附圖2通常在做此類的分類時(shí)，都需要從已有的維度(附圖2中的field欄位)，再制作衍生維度。例如在附圖2中是用戶在網(wǎng)上商城購物時(shí)所留下的日志，記載了訪問過/購買/點(diǎn)擊/保存過商家的信息。例如一個(gè)衍生維度即為每一用戶對(duì)某一商家的訪問次數(shù)。這樣的產(chǎn)生衍生維度，也一般被稱為特征工程。

特征工程設(shè)計(jì)是一難題，不容易找到通用的方法。往往需要靠工程師對(duì)數(shù)據(jù)的個(gè)人獨(dú)特的觀察，也有一些隨機(jī)成分存在。特征工程的好壞可以大大影響上述算法的結(jié)果，如何產(chǎn)生有用的特征成為算法結(jié)果優(yōu)劣的關(guān)鍵。

發(fā)明內(nèi)容

為此，本發(fā)明提供一種圖神經(jīng)網(wǎng)絡(luò)特征產(chǎn)生方法，以解決現(xiàn)有特征工程具有不確定性和隨機(jī)性的問題。

為了實(shí)現(xiàn)上述目的，本發(fā)明提供如下技術(shù)方案：

本發(fā)明公開了一種圖神經(jīng)網(wǎng)絡(luò)特征產(chǎn)生方法，所述方法為：

從已有的維度制作衍生維度，通過圖形理論將樣本用于數(shù)據(jù)值表征為圖中的節(jié)點(diǎn)，相關(guān)節(jié)點(diǎn)用邊進(jìn)行連接；

可先將多個(gè)維度的數(shù)值分箱或分桶成有限的數(shù)量；

一個(gè)維度在處理后可能值為n個(gè)值，每個(gè)值為圖中的一個(gè)節(jié)點(diǎn)，對(duì)每一樣本產(chǎn)生對(duì)應(yīng)的邊；

產(chǎn)生圖后，通過圖神經(jīng)網(wǎng)絡(luò)產(chǎn)生每一節(jié)點(diǎn)的高維度坐標(biāo)；

相似的節(jié)點(diǎn)會(huì)被映射到空間中相臨近的位置，產(chǎn)生獨(dú)特的特征。

進(jìn)一步地，所述圖形理論以圖為研究對(duì)象，圖形理論中的圖是由若干給定的點(diǎn)及連接兩點(diǎn)的線所構(gòu)成的圖形，圖形通常用來描述某些事物之間的某種特定關(guān)系，用點(diǎn)代表事物，用連接兩點(diǎn)的線表示相應(yīng)兩個(gè)事物間具有的特定關(guān)系。

進(jìn)一步地，所述圖形理論將X維度處理后，具有{x_1，…，x_n}n個(gè)值，X維度中每個(gè)值對(duì)應(yīng)圖中的一個(gè)節(jié)點(diǎn)。

進(jìn)一步地，所述多個(gè)維度進(jìn)行同樣的處理，m個(gè)維度，則每一維度各有{k_1，…，k_m}個(gè)獨(dú)一值，產(chǎn)生K個(gè)節(jié)點(diǎn)，

K＝k_1+k_2…+k_m

每個(gè)樣本本身為一個(gè)節(jié)點(diǎn)，樣本總數(shù)為N，則圖的總節(jié)點(diǎn)數(shù)為V＝K+N。

進(jìn)一步地，所述圖中的邊產(chǎn)生方式為：對(duì)樣本y，x維度共有x_1，x_2,…，x_n個(gè)節(jié)點(diǎn)，樣本y與x維度之間產(chǎn)生的邊為：(y，x_1)，…，(y，x_n)。

進(jìn)一步地，所述圖中的邊加入額外的邊y_0，y_1兩樣本某一維度具有同一值，即(y_0，v)，(y_1，v)兩個(gè)邊同時(shí)存在，為使y_0，y_1關(guān)系更緊密，則增加一個(gè)邊(y_0，y_1)。