机器学习——线性回归（正则化）

定义

正则化是一种在模型训练中在损失函数中额外加入惩罚项的方法，用来限制模型的复杂度，防止过拟合

• 通俗理解
  • 普通回归只关心“拟合误差小不小”
  • 加了正则化后，模型还要“保持系数尽量小/稀疏”
  • 目的:让模型在新数据上泛化更好。

形式

分类

• L1

• L2

• 弹性网络

弹性网络原理

特性