…ら随時追記するためと、それからややもするとすぐサボりがちな自分の勉強の動機づけのためエントリーを公開する。 ケーキの切れない非行少年たち（新潮新書） 作者:宮口幸治 新潮社 Amazon チョムスキー入門～生成文法の謎を解く～ (光文社新書) 作者:町田 健 光文社 Amazon コトバの謎解き ソシュール入門 (光文社新書) 作者:町田 健 光文社 Amazon ゼロから作るDeep Learning ❷ ―自然言語処理編 作者:斎藤 康毅 オライリージャパン Amazon

…いない模様。愛読書『ゼロから作るDeep Learning』シリーズ他のサンプルプログラムの改行コード一括変換に便利なので。他のエディターでもできないわけないが、ただ単に私がnotepad++に慣れているというだけである。 プリンター複合機PIXUS MG3630のドライバーとユーティリティーのいくつかをCANONのHPからダウンロードし、プリントアウトとスキャンができることを確認した。ただしユーティリティーのうちMy Image Gardenは、立ち上がるの遅いわ不具合が頻…

…のタネ本 斎藤康毅『ゼロから作るDeep Learning』(O'REILLY) 3章、4章参照。 >>> np.dot(x_e,W1) + b1array([[ 5.35940066, 5.61089252, 1.85192825],[ 7.07116277, 7.01529024, 7.01130664],[ 7.0708327 , 7.01575844, 7.01073243],[ 8.78259481, 8.42015616, 12.17011081]]) これでもわ…

…っさい見られない。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者:斎藤 康毅 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） せっかく Excel に貼り付けたので、もう少しいじってみた。 Excel ではクリックで簡単に表示桁数を変更できる。「その４」の表の小数点以下を1桁表示にしてみた。 丸めなし 7桁 6桁 5桁 W1[0][0] 4.0 3.4 -1.9 3.8 W1[0][1] 0.7 0.7 …

…4374337]) ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者:斎藤 康毅 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） 次に小数点以下7桁に丸めたケース。 >>> W1 = np.round(W1, decimals=7)>>> W2 = np.round(W2, decimals=7) >>> W1array([[ 0.0073955, -0.0134894, -0.011781 ], [ 0.0…

…いる通り、斎藤康毅『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(O'REILLY) のサンプルスクリプトをダウンロードしたディレクトリに、事前に移動しておく必要があります。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者:斎藤 康毅 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） 今回は、まずはW1とW2の初期値に対する乗数 weight_init_std …

相変わらず斎藤康毅『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(O'REILLY) 読者限定の記事です。さらにバタフライ効果やカオス現象にある程度の知識と興味がある人ということで、さらに読者は限定されそうです。「ブログでやらず論文か紀要に書け」と言われそうですが、そこまで深掘りできるかわからないので、とりあえずブログに晒しています。今回も新着お目汚しを避けるため日付をさかのぼって公開しています。 ゼロから作るDeep Lear…

…ん、対象は斎藤康毅『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(O'REILLY) 読者限定の記事につき、新着お目汚しを避けるため日付をさかのぼって公開します。弊ブログでは、ときどきそういうことをやります。 2年半、放置しているシリーズがある。 watto.hatenablog.com 方針は、排他的論理和EORを実現する重み行列 W0 、定数ベクトル b0、重みベクトル W1、定数 b1 を、機械学習によって求めることだった…

…ネ本である斎藤康毅『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(オライリー・ジャパン)では、拙「Excelで手軽に試す機械学習」シリーズの1章で述べたような一次不等式で実現した論理回路を「パーセプトロン」と呼んでいる（第2章）。 パーセプトロンという語はまだ使っていなかったが、その他の用語や記号はだいたい『ゼロから作るDeep Learning』に準拠している。 前回「1章の2」で、XOR回路（＝排他的論理和）は一次不等式では…

…ほど前に、斎藤康毅『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』(オライリージャパン) という本を、半年ほどかけて読んだ。 おかげで「機械学習」というものがどういうものか、自分なりに理解できたように思った。 ただし、理解することより他人に説明することのほうが困難だ。道具として使いこなすことは、さらに困難だ。 弊ブログに過去記事をいくつか残しているが、これらは純然たる自分用メモで、他人が読んで簡単に理解できるようなシロモノでないこ…

O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下 “テキスト”）読者限定対象の、何度目かのシリーズの最終回です。 前回はシグモイドと2乗和誤差の誤差逆伝播法の実装について書いたが、テキスト5章のクライマックスは、続くAffineレイヤとSoftmax-with-Lossレイヤの実装のくだりなんじゃないかと思う。テキスト全体でも白眉と言えるんじゃないだろうか？ 実際、著者はSoftmax-with-Lossレイ…

…。O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下 “テキスト”）に掲載されているクラスは、前回使用した数値微分を求める “numerical_gradient” にしろ、6月26日付 および 7月1日付 記事で使用したMNISTデータセットの推定値を求める “TwoLayerNet” にしろ、目的以外の用途に使用しても立派に動作してくれた。私の書いたスクリプトでは、絶対そうはいくまい。 これは、たまたま動い…

…。O'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下 “テキスト”）で計算グラフが登場するのは5章と付録Aのみだが、学習する側としては、もうちょっと前から使ってもよかった。 スポンサーリンク Sigmoidレイヤの逆伝播の計算は、テキストP143～146にていねいに解説されている。ここではテキストP145図5-20の完成図を模写したものだけを示す。 テキストではさらに変形を行って、結論として y(1－y) とい…

…ずO'REILLY『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下 “テキスト”）を少しずつ読んでいる。読めば読むほど、著者の 斎藤康毅 氏は、つくづく頭のいい人なんだということを実感する。どの章も、章の初めにごく簡単な例を示して、そこから次に、一気に実用的なサンプルプログラムの説明に入る。いわば特急列車のようなものだ。 一方私は、頭のよくないロートルなので、とても理解が追いついてゆかない。そこで自分の歯に合う、易しい練習問…

…、何ヶ月か前から 『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』という本を読んで、機械学習の勉強をしている。さらに個人的な事情になるが、たまたまこのエントリーを読む直前に、自分なりのブレークスルーを体験して高揚していたから、こんなことを書いてしまったのだ。ブレークスルーというのは、とても難しいと感じていた箇所に対し、練習問題を自作して解いてみるという作業を繰り返したことにより、「理解した」という実感を得たという意味だ。 スポンサ…

…作するにあたって、『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下「テキスト」）P114～115 で定義されたクラス “TwoLayerNet” から、コードをたくさん流用した。だったらせっかくのクラスをわざわざ崩すことはないじゃないかと気づいたことを、前回の末尾で述べた。 そもそもクラスはコードを再利用するためのものだから、気づくのが遅いんだけど。でもコードを流用することによりコードの理解が進んだし、「動く」という事前確認…

…きがあった。例えば『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』（以下「テキスト」）4.4 の勾配というのは、ベクトル解析でいう多次元の勾配と同じことだったのだ！ なんだか書いてみるとあたりまえのことだな。テキストP103で「勾配」という言葉が最初に出てきたときには、2変数の関数に対する勾配を数値微分によって求め、次の段階でP109で対象がニューラルネットワークに拡張されたため、気づくのが遅れた。ニューラルネットワークとしてはご…

…上経ってしまった。『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』という本を読んでいる。3章でとても難易度の高いと感じるカベにぶち当たったので、自分自身の理解の度合いを確認するために、難易度の低い練習問題を作って解いてみたという内容のエントリーだ。 watto.hatenablog.com 上掲書3章には、「ニューラルネットワーク」すなわち行列積といくつかの関数の組み合わせを用いて、MNISTデータセットすなわち手書き数字のテスト…

… 今読んでいるのは『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』である。気づいたことをエントリーにしているのだが、気づいたら前回の記事から3ヶ月も経ってしまっていた。 watto.hatenablog.com 3章でニューラルネットワークというのを導入する。早い話が行列演算である。その他いくつかの準備をすると、次はいきなり「MNISTデータセット」という手書き数字のテストデータを認識させる。 ここが、とてもわかりにくかった。プロ…

…本の件なのですが… ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (11件) を見る GitHub の『ゼロから作る Deep Learning』のリポジトリからダウンロードしたファイルは、改行コードにUNIX流儀の [LF] が使われているから、そのままでは Windows のコマン…

…ます。今回も対象は『ゼロから作るDeep Learning』の読者だけなので、新着に表示されにくくするため日付をさかのぼって公開しています。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (11件) を見る 「3.6.3 バッチ処理」のP78と80のコードは、いきなり対話モードのプロン…

…ひご教示願います。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (11件) を見る プラットフォームは Windows10。Python 3 系をインストールして、GIT HUB よりサンプルプログラムをダウンロードして、3章の途中まではサンプルプログラムがサクサク動くことを確認した…