Ail

【書籍】『DeepLearning』の日本語訳がでた

書籍『DeepLearning』を松尾研のみなさまが主体となって翻訳されたそうです。この書籍、東大の授業でも、cs231nでも推薦されてた。日本語訳まじありがたい・・・。
今後書籍が発売予定とのことだがそれまではオンライン上で無料公開の上、ご意見・ご指摘募集中とのこと。

詳解ディープラーニング 著者巣籠さん質問会

詳解ディープラーニングという本の読書会が行われていたのだが、その最後に著者の巣籠さんへの質問会があった。

AILの復習してる

改めて配布資料とコードを読み直してるんだけど、宿題のスコア上げに集中して、コードの理解が足りてなかったなと感じている。秋学期の講義が受けられるならこの辺は気をつけたい。不明点は同期に相談してみよう。

AIL第1回講義の松尾先生の資料より。DeepLearningの勉強の進め方の抜粋

入り口:「人工知能は人間を超えるか」(拙著)

読み物:「人間さまお断り―人工知能時代の富と仕事の手引き」(Jerry Kaplan, 近刊)

教科書:「深層学習」(岡谷貴之)

教科書:”Deep Learning” (Y. Bengioら、MIT pressから来年出版。翻訳を出版予定)

ニューラルネットに1x1 Convolutionを入れる意味

大きく2つの意味があるようだ

• 次元削減
• ネットワークに非線形の追加

参考資料は下記。

実装の順番を間違えた

AILの宿題が先ほど24時までだったのですが、今回は最終的に意味のない実装に時間をかけてしまった。

MNISTの画像回転をnumpyだけで実装したのだが、学習に時間がかかりすぎるため、今回は利用を見送った。

Adagradなどの学習率変化の実装を終えてから、データ量を増やすものに着手すべきだったと思う。

またデータの正規化などにも着手していなかった。これまで学んだことを一覧化して、実装の際にチェックするようにしたい。

画像の座標変換アフィン変換

MNISTの手書き文字画像を回転させるために、 scikit-image を用いようと思ったが、スピードが遅いようだ。

一枚ずつ、for文で書こうしているため、遅くなってしまっている。

おそらく、for文ではなくnumpy使って、行列計算でまとめて画像データを加工しなくてはいけないということかと思い、アフィン変換を自力で書こうとしているが、数時間かけてうまくいかず。

Qiitaの記事に書かれていたコードを参考にいじっているが、ゼロから自分で書かないと理解が浅いように思う。