日本人はすごいこといっぱい研究するがそれにより国家を優位にしようと発想することなく、隣国や脅迫に屈して自由に盗ませる。
光干渉計デバイスの駆動電圧に対する非線形性を用いた演算方式をシリコン光集積回路に実装して、光集積回路のみによるニューラルネットワーク演算を世界で初めて実証した。
掲載誌： Nature Communications
論文タイトル： On-chip bacterial foraging training in silicon photonic circuits for projection-enabled nonlinear classification
著者：Guangwei Cong, Noritsugu Yamamoto, Takashi Inoue, Yuriko Maegami, Morifumi Ohno, Shota Kita, Shu Namiki, and Koji Yamada
国立研究開発法人産業技術総合研究所（以下「産総研」という）プラットフォームフォトニクス研究センターのコン グアンウエイ 主任研究員らは日本電信電話株式会社と共同で、国立研究開発法人科学技術振興機構の支援のもと、電子回路ではなく、シリコン光集積回路を使った超低遅延かつ消費電力の少ないニューラルネットワーク演算技術を開発した。
この技術は、光集積回路を用いて機械学習の演算を行う技術である。解析すべき多次元データの電気信号は光集積回路のそれぞれ異なる入力ポートに入力されて光信号に変換され、さらに光集積回路に組み込まれた多数の光干渉計を通過する際に演算が行われる。そして、複数の出力ポートの光強度分布として演算結果が出力される。
この技術を用いることにより、電気回路を経ることなく、光集積回路のみによるニューラルネットワーク演算が実現した。このニューラルネットワーク演算では、パラメーターが固定された光集積回路に光を伝搬させるだけで演算が完了するため、デジタル電子回路のような逐次スイッチングが不要となり、電子回路の千分の 1 以下の遅延時間、かつ数十分の 1 の消費電力での演算が可能となる。また、光回路では電子回路の 10 倍以上の高速なクロックが適用できるため、単位時間あたりのデータ処理量も大きくできる。これらの特徴により、この技術はデジタル電子回路を補完する AI アクセラレーターへの応用が期待される。なお、この技術の詳細は 2022年 6 月 30 日（現地時間）に Springer Nature 社刊行の「Nature Communications」で発表される。
バックプロパゲーションの仕組みを理解するためには、まず「勾配降下法」（Gradient Descent）について理解する必要があります。勾配降下法は、ニューラルネットワークの誤差を最小化するために、各パラメータ（重みとバイアス）を更新していく方法です。誤差が最も小さくなるポイントを見つけることで、最適なパラメータを求めます。
バックプロパゲーションは、勾配降下法を用いて、ニューラルネットワークの誤差を効率的に逆伝播させる手法です。具体的には、出力層から入力層に向かって、各層のパラメータに対する誤差の勾配を計算していきます。この計算を繰り返すことで、最終的に誤差が最小となるパラメータが見つかります。
例えば、今回の場合は、
y=s2
s=w1x1+w2x2
という2つの関数の合成と見なします。さて、この状況で∂y∂w1を考えてみましょう。yは一見するとsの関数であり、w1で偏微分できそうにありません。しかし、s自体はw1の関数となっています。このとき、偏微分を以下のように分解できるのです。
∂y∂w1=∂y∂s∂s∂w1
これが連鎖律の原理です。y(w1,w2)を2つの関数に分解できたように、∂y∂w1も2つの偏微分に分解して掛け合わせれば良いのです。
この連鎖律の原理がバックプロパゲーションのカギです。つまり「偏微分の数珠つなぎのアイデアを用いて、あらゆる重みに対する誤差関数Eの偏微分の値を求めよう！」ということをしていくのです。そうすれば勾配降下法を用いて重みの値を更新できます。
研究で考案した非線形写像型光ニューラルネットワーク演算回路、およびこれを用いた花弁形状によるアヤメの分類結果
