Datawhale X 李宏毅苹果书AI夏令营-Task1

局部极小值与鞍点

临界点及其种类

对于a来说，对x方向（假定）和y方向上的偏导均为极小值，图像中可看出是局部最小值；但是对于b来说，其对于x方向（假定）的偏导是极小值，对于y方向的偏导是极大值，此点为鞍点，图中所展示的形状也被称为马鞍面。

判断临界值种类的方法

逃离鞍点的方法

批量和动量

梯度下降法

动量法

自适应学习率