ICream103218

监督学习的目的就是要最小化cost Function. 但这个过程中往往会产生些错误，如overfit，而正则化的存在是通过调整正则化参数而达到想要的目的 往往表示向量中不...

逻辑回归和交叉熵对于MSE顾虑都一样，cost function = (y-a)^2，对于神经网络而言，会降低w,b的更新速度，而对于逻辑回归来说,MSE会导致代价函数非凸...

最近上课讲到SVM，太久没回顾了有点蒙，之前笔记之记在纸上，甚是不便，今日便将其整理upload。 我们可以相对原本的perceptron算法换个思路去思考，因为我们有梯度...

1. 信息熵 为啥是以2为低？ 传统。。。。(只要保证0-1之间能正确表达概率越小，信息量越大即可) 转换即得到一开始的公式。 2. 条件熵 P(y|x) = ..... ...

线性回归模型满足线性性、独立性、方差齐性以及正态性的同时，又不丢失信息，此种变换称之为Box—Cox变换。 长尾截断相当于上面的箱型图删除异常值，通过删除掉频率特别小的而得...

训练集数据和测试集数据 查看下两者的分布是否大致一致(查看mean，std。。。), 也可以通过画图(通过对目标值Y的画图)。如果不一致，可能要考虑将训练集分布转换成和测试...

voting策略是投票思想。 bagging需要基分类器方差尽可能大。 但是bagging也有局限，就是如果大部分基分类器都分类错误，那么会很麻烦，由此我们需要一个会对分类...