しいたげられたしいたけ

期間限定トップ「肌の色や出自や信仰の違う他人を、憎むように生まれついた人間などいない」ネルソン・マンデラ rt by バラク・オバマ

ゼロから作るDeep, Learning の検索結果:

O'REILLY『ゼロから作るDeep Learning』5章誤差逆伝播法は見かけに反して意外な難関だった(その4:完結)

O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下 “テキスト”)読者限定対象の、何度目かのシリーズの最終回です。 前回はシグモイドと2乗和誤差の誤差逆伝播法の実装について書いたが、テキスト5章のクライマックスは、続くAffineレイヤとSoftmax-with-Lossレイヤの実装のくだりなんじゃないかと思う。テキスト全体でも白眉と言えるんじゃないだろうか? 実際、著者はSoftmax-with-Lossレイ…

O'REILLY『ゼロから作るDeep Learning』5章誤差逆伝播法は見かけに反して意外な難関だった(その3)

…。O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下 “テキスト”)に掲載されているクラスは、前回使用した数値微分を求める “numerical_gradient” にしろ、6月26日付 および 7月1日付 記事で使用したMNISTデータセットの推定値を求める “TwoLayerNet” にしろ、目的以外の用途に使用しても立派に動作してくれた。私の書いたスクリプトでは、絶対そうはいくまい。 これは、たまたま動い…

O'REILLY『ゼロから作るDeep Learning』5章誤差逆伝播法は見かけに反して意外な難関だった(その2)

…。O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下 “テキスト”)で計算グラフが登場するのは5章と付録Aのみだが、学習する側としては、もうちょっと前から使ってもよかった。 スポンサーリンク // Sigmoidレイヤの逆伝播の計算は、テキストP143~146にていねいに解説されている。ここではテキストP145図5-20の完成図を模写したものだけを示す。 テキストではさらに変形を行って、結論として y(1-y)…

O'REILLY『ゼロから作るDeep Learning』5章誤差逆伝播法は見かけに反して意外な難関だった(その1)

…ずO'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下 “テキスト”)を少しずつ読んでいる。読めば読むほど、著者の 斎藤康毅 氏は、つくづく頭のいい人なんだということを実感する。どの章も、章の初めにごく簡単な例を示して、そこから次に、一気に実用的なサンプルプログラムの説明に入る。いわば特急列車のようなものだ。 一方私は、頭のよくないロートルなので、とても理解が追いついてゆかない。そこで自分の歯に合う、易しい練習問…

「マンガでわかる機械学習」のネームを本気で描いて公開しようかと思ったけど実行できるのは早くて8月です

…、何ヶ月か前から 『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』という本を読んで、機械学習の勉強をしている。さらに個人的な事情になるが、たまたまこのエントリーを読む直前に、自分なりのブレークスルーを体験して高揚していたから、こんなことを書いてしまったのだ。ブレークスルーというのは、とても難しいと感じていた箇所に対し、練習問題を自作して解いてみるという作業を繰り返したことにより、「理解した」という実感を得たという意味だ。 スポンサ…

O'REILLY『ゼロから作るDeep Learning』4章のクラスを使ったら4セグメントLEDどころか7セグメントLEDの機械学習ができた!(その3:完結)

…作するにあたって、『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下「テキスト」)P114~115 で定義されたクラス “TwoLayerNet” から、コードをたくさん流用した。だったらせっかくのクラスをわざわざ崩すことはないじゃないかと気づいたことを、前回の末尾で述べた。 そもそもクラスはコードを再利用するためのものだから、気づくのが遅いんだけど。でもコードを流用することによりコードの理解が進んだし、「動く」という事前確認…

O'REILLY『ゼロから作るDeep Learning』4章のクラスを使ったら4セグメントLEDどころか7セグメントLEDの機械学習ができた!(その2)

…きがあった。例えば『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(以下「テキスト」)4.4 の勾配というのは、ベクトル解析でいう多次元の勾配と同じことだったのだ! なんだか書いてみるとあたりまえのことだな。テキストP103で「勾配」という言葉が最初に出てきたときには、2変数の関数に対する勾配を数値微分によって求め、次の段階でP109で対象がニューラルネットワークに拡張されたため、気づくのが遅れた。ニューラルネットワークとしてはご…

O'REILLY『ゼロから作るDeep Learning』4章のクラスを使ったら4セグメントLEDどころか7セグメントLEDの機械学習ができた!(その1)

…上経ってしまった。『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』という本を読んでいる。3章でとても難易度の高いと感じるカベにぶち当たったので、自分自身の理解の度合いを確認するために、難易度の低い練習問題を作って解いてみたという内容のエントリーだ。 www.watto.nagoya 上掲書3章には、「ニューラルネットワーク」すなわち行列積といくつかの関数の組み合わせを用いて、MNISTデータセットすなわち手書き数字のテストデータを…

O'REILLY『ゼロから作るDeep Learning』3章 ニューラルネットワークで7セグメントならぬ4セグメントLEDを認識させてみた

… 今読んでいるのは『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』である。気づいたことをエントリーにしているのだが、気づいたら前回の記事から3ヶ月も経ってしまっていた。 www.watto.nagoya 3章でニューラルネットワークというのを導入する。早い話が行列演算である。その他いくつかの準備をすると、次はいきなり「MNISTデータセット」という手書き数字のテストデータを認識させる。 ここが、とてもわかりにくかった。プログラム言…

Notepad++ で改行コードを [LF] から [CR][LF] に一括変換する方法 on Windows10

…本の件なのですが… ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本(ソフトカバー) この商品を含むブログ (11件) を見る GitHub の『ゼロから作る Deep Learning』のリポジトリからダウンロードしたファイルは、改行コードにUNIX流儀の [LF] が使われているから、そのままでは Windows のコマン…

O'REILLY『ゼロから作るDeep Learning』「3.6.3 バッチ処理」を動かすための前処理 on Windows10

…ます。今回も対象は『ゼロから作るDeep Learning』の読者だけなので、新着に表示されにくくするため日付をさかのぼって公開しています。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本(ソフトカバー) この商品を含むブログ (11件) を見る 「3.6.3 バッチ処理」のP78と80のコードは、いきなり対話モードのプロン…

O'REILLY『ゼロから作るDeep Learning』3章MNIST画像が表示されなかったので改造した on Windows10

…ひご教示願います。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本(ソフトカバー) この商品を含むブログ (11件) を見る プラットフォームは Windows10。Python 3 系をインストールして、GIT HUB よりサンプルプログラムをダウンロードして、3章の途中まではサンプルプログラムがサクサク動くことを確認した…