江筝小霸王

如果对于多项式模型的预测出现了过拟合，那我们就需要对其增加约束，而岭正则化正是其中之一的方法，本文章将会介绍什么是岭回归。

我们之间都是用线性回归去模拟线性的数据，那么如果我们如何来预测一些非线性的呢？让我们开始使用多项式回归和学习曲线吧。

继续学习线性回归的实现方式之梯度下降，本篇详细的介绍了三种梯度下降，并且最后画出散点图，清晰知道三种梯度下降的区别。

将我们之前直接使用的线性回归扒开了揉碎了，我们仔细看一看。从自己实现一个线性回归到了解scikit-learn的线性回归。

基于SGD实现的分类器效果不太理想，为了解决要准确度高于97%的新需求，我重新实现了基于KNN的分类器，同时又通过数据增广的方式提升准确度。

我们继续了解分类中的多类分类器，实现了对mnist分成10类的分类器。但是我们也在其中遇见了错误，不过我们可以定位错误，并且解决。

让我继续了解在二元分类器中经常使用的工具-ROC曲线，同时我们通过分析发现SGD在分类器上还不够好，了解并使用随机森林分类器。

接下来我们继续了解机器学习中的分类算法。在分类算法中，我们发现了不能以准确率来衡量一个分类器的好坏，我们引入了混淆矩阵、精度和召回率指标来衡量分类器的性能。

我们通过对多个机器学习算法的训练和评估，不断地选择最优的方案去获得我们需要的结果。最后通过网格搜索获得最优解，并将其用于我们的测试集进行评估。