月来客栈

上一篇文章中笔者对于什么是逻辑回归，以及它能用来干什么做了一个详细的介绍；同时，对于如何通过开源库进行建模训练并预测也给出了详细的示例，并对训练得到的决策边界进行了可视化。因此，本篇文章将主要围绕多变量逻辑回归，多分类问题和分类评价指标这三个方面进行介绍。 所为多变量逻辑回归其…

在上一讲中，笔者通过五篇文章来详细的介绍了线性回归模型，那么本讲开始继续介绍下一个经典的机器学习算法逻辑回归（Logistics Regression）。 如图所示为逻辑回归模型学习的大致路线，同样也分为三个阶段。在第一个阶段结束后，我们也就大致掌握了逻辑回归的基本原理。下面就…

经过前面多篇文章的介绍，我们知道了什么是线性回归、怎么转换求解问题、如何通过sklearn进行建模并求解以及梯度下降法的原理与推导。同时，在上一篇文章中我们还通过一个故事来交代了最小二乘法的来历，以及误差服从高斯分布的事实。下面这篇文章就来完成两个任务：线性回归的推导以及Pyt…

故事发生的时间是 18 世纪中到 19 世纪初。17、18 世纪是科学发展的黄金年代，微积分的发展和牛顿万有引力定律的建立，直接的推动了天文学和测地学的迅猛发展。这些天文学和测地学的问题，无不涉及到数据的多次测量、分析与计算。很多年以前，学者们就已经经验性的认为，对于有误差的测…

在前面的介绍中，笔者都是不假思索的直接给出了线性回归的目标函数，也没有给出严格的数学定义，并且还问过能不能改成绝对值或者4次方等等。同时，我们在求解的过程中是直接通过开源框架所实现的，也并不知道其内部的真正原理。因此，这篇文章笔者将比较详细对目标函数的求解过程和最小二乘法进行讲…

前面两篇文章笔者介绍了如何建模线性回归（包括多变量与多项式回归）、如何通过sklearn搭建模型并求解。但是对于一个求解出来的模型我们应该怎样来对其进行评估呢？换句话说，你这个模型到底怎么样？ 在回归任务（对连续值的预测）中，常见的评估指标（Metric）有：平均绝对误差（Me…

在上一篇文章中笔者详细的介绍了什么是线性回归以及一个典型的应用场景，同时还介绍了如何通过开源的sklearn来搭建一个简单的线性回归模型，使得对于线性回归的核心思想有了一定的掌握。接下来，笔记继续带领读者来进行下一步的学习。 在这里还是以房价预测为例。尽管影响房价的主要因素的面…

在上一篇文章中笔者介绍了如何通过三个阶段来循序渐进的学习一个机器学习算法，那么下面就开讲解第一个算法：线性回归（Linear Regression）。 如图所示为整个线性回归的学习路线图，且由于是第一个算法，所以会介绍很多基本的内容，导致看起来有很多内容。因此，对于整个线性回归…

如图所示，左边为第一种形式也是网上常见的GRU画法。但是为了方便和LSTM对比，我画成了右边的形式，请先行对比。 然后我们再来将LSTM与上面右边的GRU结构放到一起进行对比。 在LSTM中，单元状态经非线性变换作用后，再经过输出门作用后得到整个单元的输出；而在GRU中，融入新…