李宏毅机器学习笔记 Day6

65 阅读1分钟

深度学习

基本步骤与普通机器学习相同

  1. 设定function set
  2. Loss function衡量好坏
  3. 梯度下降法寻找最佳参数

第一步

深度学习第一步.png

深度学习各层级.png 第一层叫做input layer 最后一层叫做output layer 中间的计算层统称hidden layer 训练目标就是找到最好的hidden layer的层数、神经元分布、具体weight和bias参数

深度学习各层计算实例.png

深度学习function structure.png

层级传递化作矩阵运算.png 各layer之间的运算如图所示,各神经元的input分别乘以weight,再加上bias,可化作矩阵运算。

之后运算结果代入sigmoid function进行运算,作为目标神经元的最终结果,同时也作为该神经元的output进行下一层运算。

第二步

深度学习第二步.png 定义Loss function

深度学习Loss.png

第三步

深度学习第三步——一样的梯度下降.png 一样的梯度下降法

一个有趣的理论

fat learning.png 单layer理论上可以囊括所有连续函数

可理解为fat learning(乐)