機械学習は全て逆問題だった?
今日は火曜日。晴れ。
5時半起床。
6時半に家を出て会社へ行きました。
今日は午前中から読書。
最近、老眼が酷く目が疲れる。本を読んでいても焦点が定まらない。
「SQL実践入門」「これならわかる深層学習入門」を一章ずつ読み、
課題である機械学習のカーネルトリックについて調べていました。
そしてWebで模索しながら見つけた「逆問題の考え方」をKindle版で入手。速攻で読了(祝)。
カーネルトリックとは簡単に言えば分類問題で線形識別では解けない問題を
高次元に写して、その特徴ベクトルに非線形関数をかまして内積を計算して分類するものである。
その非線形関数の内積空間を再生核ヒルベルト空間まで拡張して、積分方程式の再生核カーネルを
逆問題として学習するのがカーネルトリックだ。
現在の機械学習で再生核カーネルとして一般的に使用されるのがガウスカーネルになる。
何故、ガウスカーネル(RBFカーネルともいう)を取ると上手いこと行くのか、
数学的な説明はまだMeには理解できていないが、正規分布にしろ、何にしろ、ガウスの言うことを聞いていれば
何でもうまくいくのだろう。(ここの部分分かる人は教えてほしい。)
でももうちょっと突っ込んで知りたかったため、以下の本をAmazonでポチちゃいました。
・工学系の関数解析 小川 英光
今日はそれなりに収穫があり、充実した日だった。
今日も定時退勤。明日もまた会社だ。
寝る。
【やることリストのタスク(軽減後)】
・SQLマスターになること&教えること&準備(11月まで伸びた)
・Python入門講座カリキュラム体系の再検討とスモールステップで行う講義の選定(これはASAP)
・子供向けScratchプログラミング教えること(8月下旬)&準備(メインからサブに交代)
【今日の読書】
・SQL実践入門──高速でわかりやすいクエリの書き方 (WEB+DB PRESS plus) ミック(P.199/346読了)
・機械学習スタートアップシリーズ これならわかる深層学習入門 (KS情報科学専門書) 瀧 雅人(P.152/330読了)
・逆問題の考え方 結果から原因を探る数学 (ブルーバックス) 上村 豊(読了(祝))
・量子力学I――原子と量子 (物理入門コース 新装版) 中嶋 貞雄
・みんなのR 第2版 Jared P. Lander(P.82/575読了)
・エントロピーの正体 アリー・ベン=ナイム(P.56/184読了)
・逆数学:定理から公理を「証明」する ジョン・スティルウェル(P.27/205読了)