[發(fā)明專利]具有可分離卷積層的圖像處理神經(jīng)網(wǎng)絡(luò)

有效

• 申請?zhí)枺?/td>: 201780061438.2
• 申請日: 2017-10-06
• 公開（公告）號: CN110088773B
• 公開（公告）日: 2023-07-11
• 發(fā)明（設(shè)計）人: F.喬列特;A.G.霍華德
• 申請（專利權(quán)）人: 谷歌有限責(zé)任公司
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/08
• 代理公司: 北京市柳沈律師事務(wù)所 11105
• 代理人: 金玉潔

神經(jīng)網(wǎng)絡(luò)系統(tǒng)被配置為接收輸入圖像以及生成輸入圖像的分類輸出。該神經(jīng)網(wǎng)絡(luò)系統(tǒng)包括：可分離卷積子網(wǎng)絡(luò)，其包括一個接一個地以堆疊排列的多個可分離卷積神經(jīng)網(wǎng)絡(luò)層，其中每個可分離卷積神經(jīng)網(wǎng)絡(luò)層被配置為：在處理可分離卷積神經(jīng)網(wǎng)絡(luò)層的輸入期間分別應(yīng)用深度卷積和點(diǎn)卷積以生成層輸出。

相關(guān)申請的交叉引用

本申請要求2016年10月6日提交的美國臨時申請序列號62/405,181的優(yōu)先權(quán)。在先申請的公開內(nèi)容被認(rèn)為是本申請公開內(nèi)容的一部分，并通過引用結(jié)合于此。

技術(shù)領(lǐng)域

本說明書涉及使用深度神經(jīng)網(wǎng)絡(luò)(例如，卷積神經(jīng)網(wǎng)絡(luò))處理圖像。

背景技術(shù)

神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)模型，其采用一層或多層非線性單元來預(yù)測對于接收到的輸入的輸出。一些神經(jīng)網(wǎng)絡(luò)除了輸出層之外還包括一個或多個隱藏層。每個隱藏層的輸出被用作網(wǎng)絡(luò)中另一層(例如，下一個隱藏層或輸出層)的輸入。網(wǎng)絡(luò)的每個層根據(jù)相應(yīng)參數(shù)集的當(dāng)前值從接收到的輸入生成輸出。

卷積神經(jīng)網(wǎng)絡(luò)通常包括卷積神經(jīng)網(wǎng)絡(luò)層，并且在某些情況下，包括完全連接的神經(jīng)網(wǎng)絡(luò)層和其他種類的神經(jīng)網(wǎng)絡(luò)層。卷積神經(jīng)網(wǎng)絡(luò)層具有稀疏連接性，其中卷積層中的每個節(jié)點(diǎn)僅從下一個最低神經(jīng)網(wǎng)絡(luò)層中的節(jié)點(diǎn)子集接收輸入。一些卷積神經(jīng)網(wǎng)絡(luò)層具有與該層中的其他節(jié)點(diǎn)共享權(quán)重的節(jié)點(diǎn)。然而，完全連接層中的節(jié)點(diǎn)從下一個最低神經(jīng)網(wǎng)絡(luò)層中的每個節(jié)點(diǎn)接收輸入。

發(fā)明內(nèi)容

本說明書描述了在一個或多個位置中的一個或多個計算機(jī)上被實(shí)施為計算機(jī)程序的神經(jīng)網(wǎng)絡(luò)系統(tǒng)。

通常，一個創(chuàng)新方面可以體現(xiàn)在由一個或多個計算機(jī)實(shí)施的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中。該神經(jīng)網(wǎng)絡(luò)系統(tǒng)被配置為接收輸入圖像以及生成輸入圖像的分類輸出。該神經(jīng)網(wǎng)絡(luò)系統(tǒng)包括：可分離卷積子網(wǎng)絡(luò)，其包括一個接一個地以堆疊排列的多個可分離卷積神經(jīng)網(wǎng)絡(luò)層，其中每個可分離卷積神經(jīng)網(wǎng)絡(luò)層被配置為在處理可分離卷積神經(jīng)網(wǎng)絡(luò)層的輸入期間分別應(yīng)用深度卷積(depthwise?convolution)和點(diǎn)卷積(pointwise?convolution)兩者以生成層輸出。神經(jīng)網(wǎng)絡(luò)系統(tǒng)還可以包括輸出子網(wǎng)絡(luò)，該輸出子網(wǎng)絡(luò)被配置為接收由可分離卷積子網(wǎng)絡(luò)生成的可分離卷積輸出，以及處理該可分離卷積輸出以生成輸入圖像的分類輸出。該神經(jīng)網(wǎng)絡(luò)系統(tǒng)還可以包括輸入子網(wǎng)絡(luò)，該輸入子網(wǎng)絡(luò)被配置為接收輸入圖像以及處理該輸入圖像以生成初始輸出。輸入子網(wǎng)絡(luò)可以包括一個或多個卷積神經(jīng)網(wǎng)絡(luò)層。

可分離卷積子網(wǎng)絡(luò)可以包括一個或多個入口模塊，其中入口模塊被配置為接收初始輸出，以及共同處理初始輸出以生成入口輸出。每個入口模塊可以包括：相應(yīng)的第一直通卷積層，被配置為處理入口模塊的模塊輸入以生成第一直通輸出；可分離卷積神經(jīng)網(wǎng)絡(luò)層的相應(yīng)的第一堆疊，其中第一堆疊中的層被配置為共同處理模塊輸入以生成第一堆疊輸出；相應(yīng)的最大池化層，被配置為對第一堆疊輸出執(zhí)行最大池化以生成最大池化輸出；以及相應(yīng)的第一拼接(concatenation)層，被配置為拼接第一直通輸出和最大池化輸出以生成入口模塊的入口模塊輸出?？煞蛛x卷積子網(wǎng)絡(luò)可以包括三個入口模塊。第一直通卷積層可以是1×1卷積層。第一堆疊中的可分離卷積神經(jīng)網(wǎng)絡(luò)層可以被修正線性單元激活層分離。第一堆疊中的一個或多個可分離卷積神經(jīng)網(wǎng)絡(luò)層之后可以是批量歸一化層。

可分離卷積子網(wǎng)絡(luò)可以包括一個或多個中間模塊，其中中間模塊被配置為接收入口輸出，以及共同處理入口輸出以生成中間輸出。每個中間模塊可以包括：相應(yīng)的第二直通卷積層，被配置為處理中間模塊的模塊輸入以生成第二直通輸出；可分離卷積神經(jīng)網(wǎng)絡(luò)層的相應(yīng)的第二堆疊，其中第二堆疊中的層被配置為共同處理模塊輸入以生成第二堆疊輸出；以及相應(yīng)的第二拼接層，被配置為拼接第二直通輸出和第二堆疊輸出以生成中間模塊的中間模塊輸出?？煞蛛x卷積子網(wǎng)絡(luò)可以包括八個中間模塊。第二直通卷積層可以是1×1卷積層。第二堆疊中的每個可分離卷積神經(jīng)網(wǎng)絡(luò)層之前可以是修正線性單元激活層。第二堆疊中的一個或多個可分離卷積神經(jīng)網(wǎng)絡(luò)層之后可以是批量歸一化層。