损失函数

180 阅读1分钟

均方误差

不存在多个局部最小值,即只有一个最小值。

对数似然损失

梯度下降求解,有多个局部最小值,找全局最小值是目前解决不了的问题。

优化方法(尽量改善):

  • 多次随机初始化,多次比较最小值结果。
  • 在求解的过程中,调整学习率。

尽管没有全局最低点,但学习效果是可以的。