反向传播 BackPropagation详细推导教程

851 阅读1分钟

考虑到反向传播是比较重要的算法,并且推导还是有一定的难度,因此我打算好好写一下该 算法的推导过程。 如何尽可能写得足够简洁和通俗是一个不太容易的事情,考虑到很多人都会使用吴恩达的《机器学习》课程 [1],因此我的符号设置也会遵循该课程的符号。

该课程并没有推导反向传播算法, 但我认为在自学和巩固时一定要学会它的推导,否则就不能算是真正学会了 BP 的原理。在写这 本书的时候,我避开了所有参考资料,而是完全自己进行的推导,因此加深了里面的印象,现在 我打算把这个推导过程严谨而又不失通俗地呈现出来。

本书已经发布,可在 DezemingFamily网站 dezeming.top/ 找到。

书的一些截图:截图1:

image.png

截图2:

image.png

截图3:

image.png