[發明專利]秘密歸一化指數函數計算系統、秘密歸一化指數函數計算裝置、秘密歸一化指數函數計算方法、秘密神經網絡計算系統、秘密神經網絡學習系統、程序

在審

• 申請號: 201980099136.3
• 申請日: 2019-08-14
• 公開（公告）號: CN114245917A
• 公開（公告）日: 2022-03-25
• 發明（設計）人: 三品氣吹;五十嵐大;濱田浩氣
• 申請（專利權）人: 日本電信電話株式會社
• 主分類號: G09C1/00
• 分類號: G09C1/00;G06F21/60
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 金蘭

1.一種秘密歸一化指數函數計算系統，將map₁設為由表示函數exp(x)的定義域的參數(a₁，…，a_K)和表示值域的參數(α₁，…，α_K)定義的秘密批量映射，其中，K是2以上的整數，a₁，…，a_K是滿足a₁＜...＜a_K的實數，并將map₂設為由表示函數1/x的定義域的參數(b₁，...，b_L)和表示值域的參數(β₁，...，β_L)定義的秘密批量映射，其中，L是2以上的整數，b₁，...，b_L是滿足b₁＜…＜b_L的實數，

所述秘密歸一化指數函數計算系統由3個以上的秘密歸一化指數函數計算裝置構成，并根據輸入向量(u₁，…，u_J)的份額([[u₁]]，…，[[u_J]])，計算針對輸入向量(u₁，…，u_J)的歸一化指數函數的值(softmax(u₁)，…，softmax(u_J))的份額([[softmax(u₁)]]，…，[softmax(u_J)]])，其中，J為1以上的整數，

所述秘密歸一化指數函數計算系統包括：

減法單元，根據所述份額([[u₁]]，…，[[u_J]])，計算份額([[u₁-u₁]]，[[u₂-u₁]]，…，[[u_J-u₁]]，[[u₁-u₂]]，…，[[u_J-u₂]]，…，[[u₁-u_J]]，…，[[u_J-u_J]])；

第一秘密批量映射計算單元，根據所述份額([[u₁-u₁]]，[[u₂-u₁]]，…，[[u_J-u₁]]，[[u₁-u₂]]，...，[[u_J-u₂]]，...，[[u₁-u_J]]，...，[[u_J-u_J]])，計算map₁([[u₁-u₁]]，[[u₂-u₁]]，…，[[u_J-u₁]]，[[u₁-u₂]]，…，[[u_J-u₂]]，…，[[u₁-u_J]]，…，[[u_J-u_J]]))＝([[α_f(1，1)]]，[[α_f(2，1)]]，…，[[α_f(J，1)]]，[[α_f(1，2)]]，…，[[α_f(J，2)]]，…，[[α_f(1，J)]]，…，[[α_f(J，J)]])，并設為([[exp(u₁-u₁)]]，[[exp(u₂-u₁)]]，…，[[exp(u_J-u₁)]]，[[exp(u₁-u₂)]]，...，[[exp(u_J-u₂)]]，...，[[exp(u₁-u_J)]]，...，[[exp(u_J-u_J)]])＝([[α_f(1，1)]]，[[α_f(2，1)]]，…，[[α_f(J，1)]]，[[α_f(1，2)]]，…，[[α_f(J，2)]]，…，[[α_f(1，J)]]，…，[[α_f(J，J)]])，其中，f(i，j)(1≤i，j≤K)為a_p≤u_i-u_j＜a_p+1的p；

加法單元，根據所述份額([[exp(u₁-u₁)]]，[[exp(u₂-u₁)]]，…，[[exp(u_J-u₁)]]，[[exp(u₁-u₂)]]，…，[[exp(u_J-u₂)]]，…，[[exp(u₁-u_J)]]，…，[[exp(u_J-u_J)]])，計算份額([[∑_j＝1^Jexp(u_j-u₁)]]，[[∑_j＝1^Jexp(u_j-u₂)]]，…，[[∑_j＝1^Jexp(u_j-u_J)]])；及

第二秘密批量映射計算單元，根據所述份額([[∑_j＝1^Jexp(u_j-u₁)]]，[[∑_j＝1^Jexp(u_j-u₂)]]，…，[[∑_j＝1^Jexp(u_j-u_J)]])，計算map₂(([[∑_j＝1^Jexp(u_j-u₁)]]，[[∑_j＝1^Jexp(u_j-u₂)]]，…，[[∑_j＝1^Jexp(u_j-u_J)]]))＝([[β_g(1)]]，[[β_g(2)]]，…，[[β_g(J)]])，并設為([[softmax(u₁)]]，[[softmax(u₂)]]，...，[softmax(u_J)]])＝([[β_g(1)]]，[[β_g(2)]]，...，[[β_g(J)]])，其中，g(i)(1≤i≤L)為b_p≤∑_j＝1^Jexp(u_j-u_i)＜b_p+1的p。