訳者謝辞

ニューラルネットワークと深層学習

What this book is about

On the exercises and problems

ニューラルネットワークを用いた手書き文字認識

逆伝播の仕組み

ニューラルネットワークの学習の改善

ニューラルネットワークが任意の関数を表現できることの視覚的証明

ニューラルネットワークを訓練するのはなぜ難しいのか

Deep learning

Acknowledgements

Frequently Asked Questions


Sponsors


Resources

この本は、私(村主崇行)の監訳、と呼ぶのはおこがましい拙い、ともすれば途切れがちなお声かけのもと、以下の方々が本業と両立させながら翻訳を続けられています。 翻訳チームの皆様に感謝いたします。

第一章:ニューラルネットワークを用いた手書き文字認識
Perceptrons村主崇行
Sigmoid neurons佐々木星也様,Takuya Miyamoto様
The architecture of neural networksTakumi Motoyama様
A simple network to classify handwritten digitsTakumi Motoyama様
Learning with gradient descent澤山高士様,佐々木辰也様
Implementing our network to classify digits今泉智博様
Toward deep learning
第二章:逆伝播の仕組み大野健太様
Warm up: a fast matrix-based approach to computing the output from a neural network
The two assumptions we need about the cost function
The Hadamard product, $s \odot t$
The four fundamental equations behind backpropagation
Proof of the four fundamental equations (optional)
The backpropagation algorithm
The code for backpropagation
In what sense is backpropagation a fast algorithm?
Backpropagation: the big picture
第三章:ニューラルネットワークの学習の改善
The cross-entropy cost function加藤公一様
Overfitting and regularization吉田周平様
Weight initialization
Handwriting recognition revisited: the code
How to choose a neural network's hyper-parameters?
Other techniques
第四章:ニューラルネットワークが任意の関数を表現できることの視覚的証明大野健太様
Two caveats
Universality with one input and one output
Many input variables
Extension beyond sigmoid neurons
Fixing up the step functions
Conclusion
第五章:ニューラルネットワークを訓練するのはなぜ難しいのか宇治土公雄介様
The vanishing gradient problem
What's causing the vanishing gradient problem? Unstable gradients in deep neural nets
Unstable gradients in more complex networks
Other obstacles to deep learning
第六章:深層学習宇治土公雄介様
Convolutional neural networks
Pretraining
Recurrent neural networks, Boltzmann machines, and other models
Is there a universal thinking algorithm?
On the future of neural networks

また、日本語訳版にパッチを下さった方々に感謝いたします。

Akihiko FUJII様 haru2036様 ANDO Yasushi様
neoinal様 Ken'ichi Matsui様 ITO Tetsunosuke様
Linus-MK様 hidenori-t様 hidenori-t様
MISUMI Masaru様 phisz様 nna774様
らいどっと様 Satoshi Shimada様