メモリ付ニューラルネットとかアテンションの仕組みとか聞いてきた

３月１２日

ステアラボ人工知能シンポジウム2017
https://stair.connpass.com/event/48746/

を聞いてきた。まずは、一番初めの論文紹介をメモメモ
（論文紹介は４人ある。そのうちのはじめの先生）

---

■ごあいさつ

■最近の重要な論文の紹介－テキストとの対応づけによる映像の理解に関連して－
中島先生
・これまでの研究
　映像に関するアテンション
　ディープセマンティックフィーチャー：要約、プライバシー
・映像の表現

紹介する論文
・アテンションの仕組み
・メモリ付ニューラルネット
・Adversarial Examples

・アテンションの仕組み
　アテンションの利用例
　　画像・映像・テキストをエンコード
　　時間（？）的に変化させる場合も
　アテンションの基本的な仕組み
　　画像→ＣＮＮ（たたみこみ）→位置が残るところでやめておく
　　言語→ＬＴＳＭ－－－－－－－－↑

　応用
　・翻訳、変換的なタスク
　　画像・映像のキャプショニング　言語観翻訳
　・Visal Question Answeringのタスクでも
　　単純な作業では実はよく内面もありそう
　　言語しか見ないと正しく出るが、画像を入れるとよくないことも
　画像理解に向けた可能性
　　人が映像を見るとき
　　外部情報のようなものはない？それでも人は、どこかに着目している

・メモリつきニューラルネットワーク
　　　Differentiable neural computer(DCN)
　ＤＣＮのすごいところ
　　読み込み、書き込みの仕組みもすべて微分できるカタチ
　　メモリの読み込み、ソフトアテンション
　　メモリの使い方も学習する
　塩蔵理解で役に立ちそう？
　　ＲＮＮタイプのネットワークは本当に「メモリ」として働いているのか／役に立っているのか
　　３Ｄ－ＣＮＮのほうが性能がいい
　　Mean/Maxプーリングでも性能に大きな変化がない
　　シーン、人物を記憶する外部メモリの可能性
　　　もっと単純なネットワークがいい？学習が難しそう

・Adversarial examples
　人には分からないくらいのノイズを画像に足しただけでＤＮＮは簡単にだませる
　→ＤＮＮの線形性が問題
　　新しいロス関数として、ｘとＸばーのロス関数をあわせたものを使うと汎用性能が上がる？
　映像関連のタスクを考えてみると・・・
　　映像は似たようなフレームばかり、データ数もそんなに多くはない
　使えるデータセット・・・（時間切れでせつめいできず）

「家庭用IoTの8割は失敗に終わる」

ま、そうだろうな・・・
HEMSを導入しているようなところが、発電量を見たいとか、そういうのはあると思うけど、
あえて家電を自動化しなくても・・・

「家庭用IoTの8割は失敗に終わる」大胆予測の根拠はどこにあるのか
http://www.sbbit.jp/article/cont1/33346


多くの人が見てくれているようなので、
このニュースを追加（＾＾；）

シャープ、メニューの提案やねぎらいの言葉もかけてくれる“IoT冷蔵庫”
http://kaden.watch.impress.co.jp/docs/news/1049357.html
目の付け所がシャープ？？

「人工知能が変える仕事の未来」を聞いてきた

３月１３日、

2017年3月期　AITCセミナー&AITCオープンラボ
～人工知能が変える仕事の未来～
https://aitc-seminar.connpass.com/event/51616/

を聞いてきたので、その内容をメモメモ

---

■AITCの紹介
　Javaコンソーシアム
　XMLコンソーシアム
　AITC

　第7期　部会
　共同：機械学習　IoT

■人工知能が変える仕事の未来
・５００ページ読みきった
　メディアの人は本質的なことを理解していない
　　→構造的な知識
　本当の人工知能を理解しましょう→ほかにはウソが書いてある

　元旦の日経朝刊写真

　人工知能
　　１位、２位はオライリーのHowTo本
　　→やった、うごく、よかったね、So What？
　　　テンソルする？それも違う・・
　　ディープラーニングの計算量：限られたケースしか証明されていない
　　→エンジニアリング的

　カーツワイル：科学者ではない。Googleの社員でもない
　　→刺激のためにしゃべってもらっているだけ
　そもそも、アメリカに共通の常識がない：進化論知らない
　　→生物が自分で自分を進化させたように、人工知能も進化する？
　AIを死刑にする？
　３Dプリンタで銃暴発：バグあったかも？プリンターメーカー？インク？
　　→温度が一定温度以下→むらができて、暴発した

　科学：説明できないといけない、ある程度で正しい
　　意識とか説明できない

　飛行機：どうやって飛べてるか未解明→でもいいじゃん！工学
　　AI学会：科学と工学の区別
　　AIはデータ次第
　　情報システム室部員のためのAI講座
　　　アクセンチュア、ガートナー
　　　AIに対する１０の誤解

　エンタープライズ
　厚生労働省の科研費
　行政情報システム研究所：自治体におけるAIの活用

　ソースコードは１行も書かなくても
　正解データ作りで高くなる
　→あとから請求する会社もあるけど・・

　自己紹介

　wordnet
　イメージネット
　　　名詞：写真をマッピング
　２０１２年　１０００枚の画像認識
　→共通の制度評価指標

　GHPの最大化

　ディープラーニングの本質
　 End to end コンピューティング
　　生データコンピューティング
　　→ディープラーニング万能と思ってはいけない
　　問題は答え・・ではなく、その直前
　　　情報を捨てている→特徴を残す（予定調和的に）
　　６X８ピクセルのRGB画像

　　スーパー　
　　　１分おきに、３０００店舗、フル監視
　　　→いままでやれてなかったサービス

　　２０３０年は、いまより人手不足になる

　医者に眼底の検査：１００円しかもらえない
　　→精度：６８パーセント・・・１００円じゃ～ね～

　わいふ２X（アップコンバーター）

　どれをやるか
　　対話型ロボットなども、どの目的、局面で、制度がどれだけ必要か
　　要求段階から数値評価
　　　精度評価しやすくなった
　　　日本語OCR　９９．５％→精度低い
　　機械翻訳→経済的に使い物にならない
　　　いらいざよりも退化している

　　危険運転の疑いをかける　５０％→もうかる

　問題
　　・精度が予測できない：実験しないと・・・

　エレファンとなテクノロジー
　　病理画像からディープラーニング用：スーパーコンピューター
　クラウドソーシング

　正解データづくりにシフト→人間がデータ作っている
　　　責任分解点の問題

　みるとーく：企画会議が終わるまでに答えかえってくる

　何猫マッチング：合コンに使う
　　→写真をとる、
　API化すると・・・奇天烈なアプリを考える

　AI導入したら・・・欧米に追いつかない、差がつけられる。

AIポジショニングマップ
　失注理由
　自動分類
　　１０万語の日本語語彙を１万の意味カテゴリに
　　　　LDAを使っている
　　類似度

Q&A
・画像認識はAIと読んでいいか？
　ディープラーニングはAIでない？
　→そもそも、第二次AIブームは、ニューロはAIではなかった

　RPA　ロボティクス　プロセス　オートメーション
　　→非効率な業務フローを固定化する可能性あり

　ライセンス：データをアップデート
　　学習済みモデルの著作権
　　→主語と述語だけでは著作権？

　人間のようなAI？

　監査・検査　１００％をもとめる
　　ちばれぽ
　切り口違う
　　ダベンポート先生もデータデータにかわったし・・