ディープラーニングはPytorch！のつづき

この前、

続いてディープラーニングはPytorchを習ってきた
https://blog.goo.ne.jp/xmldtp/e/b344fcad6b9572ffa608f7fc57d0a3e0

を書いたけど、その続き

【初心者向け】ゼロからわかるPyTorch実践入門ハンズオン～後編～
https://liberal-arts-beginners.connpass.com/event/142007/

も聞いてきたのでメモメモ

---

畳み込みニューラルネットワーク

MLP：全結合層
CNN
・CNNでできること→画像の検出
CNNの特徴
・移動不変性：対象どこでもOK
・合成性
畳み込み層
・行列に対するオペレーター
　→３X3のようなフィルターを用意して、畳み込み演算する
プーリング層
・情報圧縮：マックスプーリング
　→過学習を抑制できる

CNNの構成要素
・カーネルサイズ：フィルタのサイズの大きさ
・ゼロパディング
・ストライド

もう一つの層の作り方
・層ごとにまとめる→畳み込み層、マックスプーリング
CNNは入力チャンネル数（白黒は1）
　畳み込み層はConv2D

チャンネル数

AlexNet
・８層くらいある。チューニングパラメタ多い
　フィルター１１
　LRN:彩度調整
　重複プーリング
→PyTorchには、はいっている


転移学習
　１０００枚の画像
　→最適なパラメータ
　pretrained=TrueｂにすればOK
　→パラメータの凍結：勾配を微分しない
　→学習率を途中で変えられる（エラースケジューラー）

やること
（１）CNNの構造理解
（２）今日の内容（復習）
（３）改造