[發(fā)明專利]計算處理設(shè)備和計算機可讀記錄介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010031892.7
• 申請日: 2020-01-13
• 公開（公告）號: CN111476359A
• 公開（公告）日: 2020-07-31
• 發(fā)明（設(shè)計）人: 野津隆弘
• 申請（專利權(quán)）人: 富士通株式會社
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/08
• 代理公司: 北京集佳知識產(chǎn)權(quán)代理有限公司 11227
• 代理人: 王萍;李彥麗

本申請涉及一種計算處理設(shè)備和計算機可讀記錄介質(zhì)。其中，計算處理設(shè)備包括：第一輸出單元，其用于將輸入值與邊界值進行比較，并在輸入值超過邊界值時輸出等于輸入值的值；以及第二輸出單元，其用于在通過其使得當輸入值小于或等于邊界值的情況下輸出特定的輸出值的修正線性函數(shù)的計算中，當輸入值小于或等于邊界值時，輸出小值ε的倍數(shù)作為輸出值，其中小值ε大于0。

技術(shù)領(lǐng)域

本文討論的實施方式涉及計算處理設(shè)備、計算機可讀記錄介質(zhì)以及控制該計算處理設(shè)備的方法。

背景技術(shù)

在高速執(zhí)行深度學習(DL)的處理器時，安裝了許多計算單元以執(zhí)行并行的計算。由于所有計算單元在并行的計算中執(zhí)行相同的計算，因此許多計算單元的整體功率可能會根據(jù)數(shù)據(jù)內(nèi)容和要執(zhí)行的指令類型而突然變化。

由于處理器在相同的電壓條件下操作，因此電流隨著功率的增加而增加。通常，直流(DC)至DC轉(zhuǎn)換器的電流隨著電流的增加而增加。然而，當變化突然發(fā)生時，DC至DC轉(zhuǎn)換器不是必然地隨著電流的增加而增加。這可能會導致電壓下降。

當提供給處理器的電壓下降時，半導體的開關(guān)速度降低，并且定時約束不是必然地滿足。這可能導致處理器故障。

例如，相關(guān)技術(shù)公開于國際公布小冊子第WO 2017/038104號和日本公開特許公報第11-224246號中。

盡管可以通過將連續(xù)電壓設(shè)置為較高值來解決由于電壓下降引起的處理器的故障，但是存在以下問題：設(shè)置較高的連續(xù)電壓可能會增加功耗。

在一方面，期望在不增加功耗的情況下抑制處理器的電壓下降。

發(fā)明內(nèi)容

根據(jù)實施方式的一個方面，一種計算處理設(shè)備包括：第一輸出單元，其用于將輸入值與邊界值進行比較，并在輸入值超過邊界值時輸出等于輸入值的值；以及第二輸出單元，其用于在通過其使得當輸入值小于或等于邊界值的情況下輸出特定的輸出值的修正線性函數(shù)的計算中，當輸入值小于或等于邊界值時，輸出小值ε的倍數(shù)作為輸出值，其中小值ε大于0。

附圖說明

圖1示出了相關(guān)示例的神經(jīng)元建模；

圖2示出了相關(guān)示例中根據(jù)指令類型的功率變化的第一示例；

圖3示出了相關(guān)示例中根據(jù)指令類型的功率變化的第二示例；

圖4示出了相關(guān)示例中根據(jù)指令類型的功率變化的第三示例；

圖5示出了相關(guān)示例中根據(jù)指令類型的功率變化的第三示例；

圖6示出實施方式的示例中的第一修正線性單元(ReLU)操作處理；

圖7示出了實施方式的示例中的ReLU的第一正向傳播處理和第一反向傳播處理；

圖8示出了實施方式的示例中的第二ReLU操作處理；

圖9示出了實施方式的示例中的ReLU的第二正向傳播處理和第二反向傳播處理；

圖10示出了實施方式的示例中的第三ReLU操作處理；

圖11示出了實施方式的示例中的ReLU的第三正向傳播處理和第三反向傳播處理；

圖12是示意地示出實施方式的示例中的乘法單元的配置的示例的框圖；

圖13是示意性地示出實施方式的示例中的計算處理系統(tǒng)的配置的示例的框圖；

圖14是示出圖13所示的計算處理系統(tǒng)中的深度學習(DL)處理的框圖；

圖15是示出圖13所示的主機中的DL處理的流程圖；

圖16是示意性地示出圖13所示的主機中的硬件配置的示例的框圖；