线性回归和逻辑回归通常是人们学习预测模型的第一个算法。由于这二者的知名度很大，许多分析人员以为它们就是回归的唯一形式了。而了解更多的学者会知道它们是所有回归模型的主要两种形式。 事实是有很多种回归形式，每种回归都有其特定的适用场合。在这篇文章中，我将以简单的形式介绍 7 中最常…

这篇文章写的非常好，简明扼要，语言流畅。是我认为入门word2vector的最好文章，没有之一。当然，我也不是生硬的翻译，而是理解之后按照自己的逻辑再写出来，希望能更加清晰一些。欢迎在评论中说出你的看法，多多交流。

第0篇已经搭好了开发环境，本文详细介绍用感知机识别手写数字(mnist例子)的过程， 希望依照本文的步骤，每个人能清楚理解mnist例子，动手实践。继续阅读之前，最好你已经了解以下知识点（不然你迟早会回来的）： train-*.gz是用来训练的数据， t10k-*gz是用来测试…

MLAPP 读书笔记 - 01 概论

之前简单介绍过决策树，这篇文章简单介绍一下GBDT(Gradient Boosting Decision Tree). 决策树是一种基本的分类与回归方法。决策树模型具有分类速度快，模型容易可视化的解释，但是同时是也有容易发生过拟合，虽然有剪枝，但也是差强人意。 **提升方法（b…

在已知约束的情况下，我们建模时应该满足这些约束，并且对其他条件作最复杂最一般的假设。这样会得出更贴近于真实的结果。一般来说，这种假设就是最大熵原理。因为熵最大信息量最大，不确定性最大。 最大熵原理认为，学习概率模型时，在所有可能的概率分布模型中，熵最大的模型，为最好的模型。 将…

即使学过机器学习的人，对机器学习中的MLE(极大似然估计)、MAP(最大后验估计)以及贝叶斯估计(Bayesian)仍有可能一知半解。对于一个基础模型，通常都可以从这三个角度去建模，比如对于逻辑回归（Logistics Regression）来说： 本文结合实际例子，以通俗易懂…

要说最近几年在深度学习领域最火的莫过于生成对抗网络，即 Generative Adversarial Networks(GANs)了。它是 Ian Goodfellow 在 2014 年发表的，也是这四年来出现的各种 GAN 的变种的开山鼻祖了，下图表示这四年来有关 GAN 的…

support vector machines is the supervised learning algorithm that many people consider the most effective off-the-shelf supervised learning…