深度学习
基本步骤与普通机器学习相同
- 设定function set
- Loss function衡量好坏
- 梯度下降法寻找最佳参数
第一步
第一层叫做input layer
最后一层叫做output layer
中间的计算层统称hidden layer
训练目标就是找到最好的hidden layer的层数、神经元分布、具体weight和bias参数
各layer之间的运算如图所示,各神经元的input分别乘以weight,再加上bias,可化作矩阵运算。
之后运算结果代入sigmoid function进行运算,作为目标神经元的最终结果,同时也作为该神经元的output进行下一层运算。
第二步
定义Loss function
第三步
一样的梯度下降法
一个有趣的理论
单layer理论上可以囊括所有连续函数
可理解为fat learning(乐)