読書ノート - 深層学習

そもそもニューラルネットワークとは何なのか。
→ 第2章が最も単純なニューラルネットワークの解説になっているので、順を追って読み進めれば良い。
→ 第2〜3章が第一次人工知能ブーム、第4章が第二次人工知能ブーム、第5章以降が第三次人工知能ブームの内容に近いので、順を追いながら体系的な学習が期待できる。

2層にならべられたニューラルネットとあるが、図2.2はどういう2層？
→ １層目が入力層、２層目が中間と出力をかねている。
ユニットの数、４→３はたまたま？
→ たまたま。

関数 f() は全体で１つ？
→１つ、層ごとに作ったりはあるかも。
重みはどこに所属している？
→ 神経細胞のモデルでいうと、枝についている感じ。

層のユニットの数は試行錯誤？
→ ノリで決めているところもある。誤認識を考慮して適当な数を設定する。
→ 入力と出力は、解決したい課題によって決まる。

wとbを学習で割り出すのがニューラルネットの本質？
→ まあざっくりいうとそういう感じ。

教師あり学習は、正しい値を繰り返し入力することで、新たな入力を判別できるようになる。
教師なし学習は、多数の入力をどかどかいれていくことで、同じような信号に同じような活性がおこるようになる。

図2.3の-5〜5というのはどういう意図？
→ 特に意味はない。値の変化の全体を見せようとしただけと思われる。

対数関数の単調性から結果は同じとは？
→ 対数化した E(w) は、L(w) と同じ結果が期待できる。
→ E(w) = -log(L(w)