Quoridorというボードゲームがある。1対1で駒を動かすか、壁を作って相手を妨害しながら、相手より先に向かい側まで到達する、というゲームだ。
DropoutはDeepLearningの学習時に、各隠れ層のユニットの何割かランダムに削除しする手法。(何割残すかを keep_prob というパラメータで示すことが多い)
keep_prob
これを行うことで、Varianceを減らすことができる。様々な構造のネットワークで学習していることになるため、一種のアンサンブル学習と言える。
Andrew先生の授業の1つ目のCourseを終えた。
courseraのDeepLearning.aiのNeuralNetworks and DeepLearningを進めている。week2まで終わった。
Andrew先生の講義はやはりわかりやすいな、と感じるのと、特に微分・ChainRuleのあたりが特にわかりやすかった。
僕が、なんどもこの辺の話は聞いているから、というのはあるが、ロジスティック回帰の微分は何も見ずに書き下せるようになった。
Week2からコーディング課題も出てくるようなので楽しみ。
帰ってきたぞCouresra。以前のMachine Learning講座を見たのはちょうど一年前ぐらいだったように思う。
9月4日から見始めていたStanfordの授業を見終わった。1日15分程度で2ヶ月かかった計算。
ずいぶん前に見たきり、やってなかったが、深層学習とChainerを学習できるサイトがある。
cs231nの動画をちょくちょく見ているのだが、Lecture7でRegularizationについて紹介されていて、初めて聞く手法があったのでメモ。