机器学习

C4.5 算法是 Ross 对 ID3 算法的改进。 用信息增益率来选择属性。ID3选择属性用的是子树的信息增益， 而C4.5用的是信息增益率。

NumPy(Numeric Python)是Python的一种开源的数值计算扩展库。 它包含很多功能： 创建n维数组（矩阵） 对数组进行函数运算

Scikit-learn是基于NumPy、 SciPy和 Matplotlib的开源Python机器学习 包,它封装了一系列数据预处理、机器学习算法、模型选择等工具,是数 据分析师首选的机器学习工具包

「LetNet是最早发布的卷积神经网络之一，因其在计算机视觉任务中的高效性能而受到广泛关注。 这个模型是由 AT&T 贝尔实验室的研究员 Yann LeCun 在1989年提出的（并以其命名）

深度学习算法模型建立好后，预测出的结果往往会出现过拟合和拟合的情况，对于这种情况，我们需要对数据进行一些处理，使最终结果正合适。

收集数据集后，我们需要对数据集进行读取，和预处理等操作。如何进行预处理，我们需要预处理的作用是什么，以下来介绍。

梯度下降的三种形式： 1、批量梯度下降（Batch Gradient Descent,BGD），梯度下降的每一步中，都用到了所有的训练样本。

机器学习的一般步骤 数据搜集：网络下载、网络爬虫、数据库读取、开放数据 ... 数据清洗：数据清理和格式化、探索性数据分析

支持向量机（Support Vector Machine, SVM ）是一类按监督学习（ supervised learning）

]本文将详细讲解KNN算法中的度量问题，以便深刻了解KNN如何实现回归问题。 (机器学习实战) K-近邻算法采用测量不同特征值之间的距离方法进行分类。

贝叶斯方法——背景知识 贝叶斯分类：贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。

决策树是一种从训练数据中学习得出一个树状结构的模型。这种模型属于判别模型。决策树是一种树状结构，通过做出一系列决策来对数据进行划分，这类似针对一系列问题进行选择。

BP神经网络是一种强学习器，使用集成学习中的Bagging投票可增加一点精确度，对于竞赛提升准确度有一些帮助。

一个弱学习器预测的结果往往不能准确的预测结果，存在很大的误差。这时可以选择使用集成学习来提高正确率。 集成学习通过构建并结合多个学习期来完成学习任务，有时也被称为多分类器系统。

线性回归（Linear Regression） 是一种通过属性的线性组合来进行预测的线性模型，其目的是找到一条直线或者一个平面或者更高维的超平面，使得预测值与真实值之间的误差最小化。

K均值算法将所有点作为一个簇，然后将簇一分为二。之后选择其中一个簇继续进行划分，选择哪一个簇进行划分取决于对其划分是否可以最大程度降低SSE的值。上述基于SSE的划分过程不断重复，直到得到用户指定的簇

聚类是一种无监督学习，它将相似的对象归到同一个簇中。聚类方法几乎可以应用于所有对象，簇内的对象越相似。聚类的效果越好。KMeans聚类又称为k均值聚类。