ニューラルネットワークによる画像パターン作成を続ける

　６月１０日に「ニューラルネットワークを用いて画像パターンをつくる」のブログを公開した後、そこで紹介した画像パターンの例では何か物足りない感じがつきまとっていた。

　Ｅｘｃｅｌの散布図では、微妙な画像パターンを表現できないことが分かったが、点描による画像パターンらしく、点密度の高い領域と点密度がまばらな領域とが共にあるような画像パターンが欲しいと思った。典型的な例を挙げれば、正規分布のように山の頂上付近で点密度が高く、山の裾野の方に下るに従って点密度がまばらになるような画像パターンである。

　そこで、Ｅｘｃｅｌの使用を前提とし、正規分布型の画像パターンがどの程度まで可能なのか作図してみることにした。Ｅｘｃｅｌの正規乱数を使えば、正規分布になるような乱数を発生できるという。

　半径ｒが１の円を考える。ｒ＜０．２の円領域を空き領域とする。０．２＜ｒ＜１の領域について外輪領域と内輪領域の面積が等しくなるような分割円周のｒを計算すると、ｒ＝０．７２１になる。

　以下、０．２＜ｒ＜１の範囲のｒについて施す処理のステップをニューラルネットワークで表現すると、下図のようになる。



　まず、０．２＜ｒ＜１の範囲の一様乱数を発生させ、入力層のＩ１とＩ２のユニットに入力する。Ｉ１は、ｒが０．２＜ｒ＜０．７２１の範囲であれば、正規乱数ｒ’を発生させる。正規乱数の平均値は、内輪領域のｒの中央値である０．４６０５である。また、標準偏差シグマは、３シグマが０．７２１－０．４６０５になるような値とした。

　Ｉ２は、ｒが０．７２１＜ｒ＜１の範囲であれば、この範囲の正規乱数ｒ’を発生させる。平均値は、外輪領域のｒの中央値である０．８６０５である。また、標準偏差シグマは、内輪領域のシグマと同じとした。これによって、外輪領域と内輪領域の正規分布は同じ形の関数となる。

　第１中間層は、ユニットＩ１，Ｉ２からのデータｒ’を入力するＭ１１，Ｍ１２の２つのユニットから成る。Ｍ１１，Ｍ１２は、ｒ’に基づいてｘの一様乱数を発生させる。ｘは、（０，０）から（ｘ，ｙ）に達する長さｒ’のベクトルのｘ軸と成す偏角（シータｔ）を媒介変数として表現される。シータｔは、Ｍ１１，Ｍ１２とは別の列で０＜ｔ＜２パイの一様乱数として発生させたものである。（２パイは、２＊ＰＩ（）と記述できる）。すなわち、ｘ＝ｒ’ｃｏｓｔで与えられる。

　Ｍ１１は、Ｉ１からのデータを入力し、０．２＜ｒ’＜０．７２１ならば、上記によるｘの一様乱数を出力する。Ｍ１２は、０．７２１＜ｒ’＜１ならばｘの一様乱数を出力する。

　第２中間層は、ユニットＩ１，Ｉ２からのデータｒ’を入力し、ｒ’に基づいてｙの一様乱数を発生させるＭ２１，Ｍ２２の２つのユニットから成る。ｙはｙ＝ｒ’ｓｉｎｔで与えられる。ここでシータｔはＭ１１またはＭ１２で参照した同じｔを参照する。Ｍ２１は０．２＜ｒ’＜０．７２１、Ｍ２２は０．７２１＜ｒ’＜１の条件がつく。

　第３中間層は、第１中間層と第２中間層のデータを参照するＭ３１，Ｍ３２の２つのユニットから成る。Ｍ３１は、Ｍ１１，Ｍ２１の両データが０でなければ１を出力する。Ｍ３２は、Ｍ１２，Ｍ２２の両データが０でなければ２を出力する。

　なお、関数によって発生させた一様乱数と正規乱数は、その値を貼り付けて固定した上で参照している。

　出力層Ｏは、選択された（ｘ，ｙ）の値を出力する。すなわち、ｘとしてＭ３１が１ならＭ１１を出力、１でなければＭ３２が２であるからＭ１２を出力する。また、ｙとしてＭ３１が１ならＭ２１を出力、１でなければＭ３２が２であるからＭ２２を出力する。

　下図は、Ｅｘｃｅｌを用いて上記ニューラルネットワークを表形式に展開し、計算した結果である。



　内輪山と外輪山の点密度を比べると、どうしても内輪山の点密度が高く、外輪山の点密度が低くなる。

　入力する一様乱数ｒの件数を２５００件程度にすると、外輪山の尾根がつながるようになるので、ｒ方向に正規分布型と言えるような（ｘ，ｙ）点の分布となる。

　図の（ｘ，ｙ）点は、３回の乱数発生を重ねて決まるものであり、大局的には予想通り大数の法則に従うような結果となるが、内輪山や外輪山の裾野が不規則な形になるとともに、単独の点の散らばりが生じるなど、別の乱数発生では二度と再現できない画像パターンとなる。

　参考文献
　伊庭斉志著「進化計算と深層学習」（オーム社）

ニューラルネットワークを用いて画像パターンをつくる

　（ｘ，ｙ）平面上にある何らかの形状をした閉曲線で囲まれる図形の面積を求めたいとする。このとき、モンテ・カルロ法という技法を使うことができる。この閉曲線に外接する正方形または長方形を考える。この閉曲線は、関数式で表現できるものとする。

　いまこの外接図形の範囲にある乱数列をとり、そのうち、二つずつを組とする。それらを（ｘｉ，ｙｉ），ｉ＝１，２，．．．としよう。この乱数の組（ｘｉ，ｙｉ）は、（ｘ，ｙ）平面上で一つの点Ｐｉに対応する。

　多数の乱数の組をとれば、多数の点Ｐｉが得られ、それらは、この外接図形の内部に、ほぼ一様に分布するであろう。全部でＮ個の点を得たとする。そのうち、この閉曲線の内部にあるものの数をＭとする。そうすると、閉曲線図形の面積／外接図形の面積＝Ｍ／Ｎの式から閉曲線図形の面積の近似値を求めることができる。

　閉曲線の内部にある点は、その関数を不等式で表現したものによって判定できる。つまり、点Ｐｉ：（ｘｉ，ｙｉ）が与えられたとき、その点が閉曲線の内部にあるか外部にあるかを判定できる。このようにして、点Ｐｉが閉曲線の内部にあるときだけ実際の点を打つことにすれば、この閉曲線図形の画像パターンを点描することができる。

　閉曲線図形が複数個あるときには、関数の不等式も複数個になるため、ニューラルネットワークを用いて画像パターンを構成する各点の採否を計算する手法が有効と考える。



　図は、そのようなニューラルネットワークのユニット構成の一例を示す。乱数の組（ｘ，ｙ）が入力層のユニットＩに入力される。ここでｘ，ｙは－１から１までの範囲の一様乱数である。ユニットＩは、＝ＳＱＲＴ（ｘ＾２＋ｙ＾２）の計算式によって原点を中心として点（ｘ，ｙ）を通る円の半径ｒを計算する。

　第１中間層は、ユニットＩからのデータを入力するＭ１１，Ｍ１２，Ｍ１３の３つのユニットから成る。Ｍ１１は、ｒが０．８＜ｒ＜１．０の範囲にあれば１を、そうでなければ０を出力する。Ｍ１２は、ｒが０．４＜ｒ＜０．６の範囲にあれば１を、そうでなければ０を出力する。Ｍ１３は、ｒ＜０．２であれば１を、そうでなければ０を出力する。第１中間層は、入力データ（ｘ，ｙ）をｒによって３つの領域に分けるので、一般的にはクラスタリングと呼ばれる手法である。

　第２中間層は、Ｍ２１とＭ２２の２つのユニットから成る。第２中間層は、Ｍ１１，Ｍ１２で選択された各領域について、より詳細な画像パターンを施す。ここでは、単純な例とするために、さらに領域分割を進めることにした。Ｍ２１は、Ｍ１１からのデータを入力し、値が１であって、（ｘ＞０，ｙ＞０）または（ｘ＜０，ｙ＜０）であれば１を、そうでなければ０を出力する。Ｍ２２は、Ｍ１２からのデータを入力し、値が１であって、（ｘ＜０，ｙ＞０）または（ｘ＞０，ｙ＜０）であれば１を、そうでなければ０を出力する。

　出力層のユニットＯは、Ｍ２１，Ｍ２２，Ｍ１３からのデータを入力し、いずれかのデータが１であれば、元の入力データ（ｘ，ｙ）をそのまま出力し、すべてのデータが０であれば、データ（０，０）を出力する。

　以上のようなニューラルネットワークを介する計算によって、選択された領域にだけ実際の点が点描されることになる。

　下図は、Ｅｘｃｅｌを用いて上記ニューラルネットワークを表形式に展開し、計算した結果である。



　グラフ表示にはＥｘｃｅｌの散布図を用いている。乱数組の数Ｎは、５，０００ほどである。なお、Ｍ１１によって選択されなかった空き領域と、Ｍ１２によって選択されなかった空き領域には、別途各々３点を表示し、空き領域であることを表現している。

　Ｅｘｃｅｌの散布図では、各点（ｘ，ｙ）を決められたサイズをもつマーカーで表示するため、微妙な画像パターンを表現するには適しないことが分かる。また、関数の不等式は、ＩＦ関数で表現している。このため、一つのセルの中で複数のＩＦ条件をつけようとすると、最初のＩＦの「偽の場合」に続くＩＦ条件が入れ子構造になり、ステートメント形式のプログラミング言語を用いる場合に比べて、見やすさの点で難点がある。

　以上のように、Ｅｘｃｅｌを用いて本題の画像パターンをつくれることが分かったが、アートと言えるような本格的な画像パターンをつくるには、ステートメント形式のプログラミング言語を用いる必要があるだろう。

　また、参考文献で示唆するように、周期的な画像パターンをつくるには、三角関数などを用いることができる。しかし、計算も複雑となり、それなりのノウハウの蓄積が必要となるだろう。

　参考文献
　伊庭斉志著「進化計算と深層学習」（オーム社）
　藪下信著「計算物理（Ｉ）」（地人書館）