jjyaoao

对指数族分布的一般形式，以及配分函数，还有一些共有特征进行介绍，并且从高斯分布的角度描述质数组分布，以及讨论了充分统计量与对数配分函数和极大似然估计的关系，最后概括了最大熵的具体内容。

Glove是LSA与word2vec取其优点结合而成的模型，更容易并行化，速度更快，本文从原理推导和代码实现两个角度介绍该模型。

简要介绍了核方法处理的问题类型，以及引出为何提出核方法，以及对正定核函数的证明解释。主要起到总结的作用。

本文主要介绍了支持向量机的软间隔和硬间隔，从模型定义，如何转化模型求解为一个优化问题，以及最终使用拉格朗日乘子法对其进行求解，具备完整的流程阐述。

介绍了什么样的问题是约束优化问题，并展示了如何转化为对偶形式，以及证明了对偶关系成立、科普了Slater条件与KKT条件。

介绍了降维的几种手段以及为何要降维，主要介绍主成分分析法的思想，两种使用PCA的方式，以及SVD角度看待PCA和p-PCA的相关概念。

从线性回归过渡到线性分类，介绍了感知机，线性辨别分析，逻辑回归，高斯辨别分析，朴素贝叶斯等线性分类模型的数学推导。

解释了skip-gram，continuous bag-of-word两个word2vec模型与负采样、层序softmax的原理，以及乞丐版skip-gram代码实现。

白板推导系列笔记前言。在本文中，对一些0基础的问题进行讲解，但是由于涉及到知识范围太广，难以全部涉及，建议先对线性代数、高数、概率论的部分内容掌握扎实之后再来阅读，会减少一些阅读的障碍。