[發(fā)明專利]將深度學習集成到廣義加性混合效應（GAME）框架中

在審

• 申請?zhí)枺?/td>: 201910343519.2
• 申請日: 2019-04-26
• 公開（公告）號: CN110427564A
• 公開（公告）日: 2019-11-08
• 發(fā)明（設計）人: 馬一鳴;陸煒;J·賈;B-C·陳;龍波
• 申請（專利權）人: 微軟技術許可有限責任公司
• 主分類號: G06F16/9536
• 分類號: G06F16/9536;G06Q10/10;G06Q50/00
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 張立達;王英

1.一種系統(tǒng)，包括：

計算機可讀介質，其上存儲有指令，所述指令當由處理器執(zhí)行時，使得所述系統(tǒng)：

獲得從社交網絡服務中的數(shù)據(jù)導出的第一組特征；

將所述第一組特征饋送到第一深度學習模型中以生成第一預測，所述第一深度學習模型包括神經元的多個全連接層，所述第一預測是通過將所述第一組特征傳遞給所述多個全連接層中的第一全連接層來生成的，所述第一全連接層連續(xù)地將特征傳遞給所述多個全連接層中的另一個全連接層直到到達所述多個全連接層中的最終全連接層為止，所述最終全連接層使用第二組特征來輸出所述第一預測；

獲得從所述社交網絡服務中的數(shù)據(jù)導出的第三組特征；

將所述第三組特征饋送到廣義加性混合效應(GAME)模型中，所述GAME模型包括固定效應訓練部分和隨機效應訓練部分，所述固定效應訓練部分使用所述第三組特征，所述隨機效應訓練部分使用第四組特征；以及

在訓練所述固定效應訓練部分和所述隨機效應訓練部分期間，利用來自所述第一深度學習模型的所述第二組特征來擴增所述第三組特征或所述第四組特征，使得基于由所述第一深度學習模型學習的所述第二組特征來訓練所述GAME模型。

2.如權利要求1所述的系統(tǒng)，其中所述指令還使得所述系統(tǒng)：

獲得通過所述固定效應訓練部分或所述隨機效應訓練部分的批量梯度下降學習的權重；以及

使用所述權重來訓練所述第一深度學習模型的所述第一全連接層。

3.如權利要求1所述的系統(tǒng)，其中，所述指令還使得所述系統(tǒng)：

獲得從社交網絡服務中的數(shù)據(jù)導出的第五組特征；

將所述第五組特征饋送到第二深度學習模型中以生成第四預測，所述第二深度學習模型包括神經元的第二多個全連接層，所述第四預測是通過將所述第五組特征傳遞給所述第二多個全連接層中的第一全連接層來生成的，所述第一全連接層連續(xù)地將特征傳遞給所述第二多個全連接層中的另一個全連接層直到到達所述第二多個全連接層中的最終全連接層為止，所述最終全連接層使用第六組特征來輸出所述第四預測。

4.如權利要求3所述的系統(tǒng)，其中，所述指令還使得所述系統(tǒng)：

在訓練所述固定效應訓練部分和所述隨機效應訓練部分期間，利用來自所述第二深度學習模型的所述第六組特征來擴增所述第三組特征或所述第四組特征，使得基于由所述第二組深度學習模型學習的所述第二組特征來訓練所述GAME模型。

5.如權利要求1所述的系統(tǒng)，其中，所述第一組特征和所述第二組特征是相同的。

6.如權利要求1所述的系統(tǒng)，其中，所述第一預測是預測與所述第二預測相同類型的輸出。

7.如權利要求1所述的系統(tǒng)，其中，所述第一預測是預測與所述第三預測相同類型的輸出。

8.一種計算機化方法，包括：

獲得從社交網絡服務中的數(shù)據(jù)導出的第一組特征；

將所述第一組特征饋送到第一深度學習模型中以生成第一預測，所述第一深度學習模型包括神經元的多個全連接層，所述第一預測是通過將所述第一組特征傳遞給所述多個全連接層中的第一全連接層來生成的，所述第一全連接層連續(xù)地將特征傳遞給所述多個全連接層中的另一個全連接層直到到達所述多個全連接層中的最終全連接層為止，所述最終全連接層使用第二組特征來輸出所述第一預測；

獲得從所述社交網絡服務中的數(shù)據(jù)導出的第三組特征；

將所述第三組特征饋送到廣義加性混合效應(GAME)模型中，所述GAME模型包括固定效應訓練部分和隨機效應訓練部分，所述固定效應訓練部分使用所述第三組特征，所述隨機效應訓練部分使用第四組特征；以及

在訓練所述固定效應訓練部分和所述隨機效應訓練部分期間，利用來自所述第一深度學習模型的所述第二組特征來擴增所述第三組特征或所述第四組特征，使得基于由所述第一深度學習模型學習的所述第二組特征來訓練所述GAME模型。