图解机器学习算法 ◉ 从入门到精通

本篇内容是ShowMeAI组织的「图解机器学习算法」系列教程入口，本教程尽量以生动可视化的方式，帮助大家理解机器学习的核心知识和重要的系列模型，并配以相关的代码实现帮助大家了解应用方法。

本文覆盖机器学习常见知识要点，包括机器学习流程、算法分类（监督学习、无监督学习、强化学习）、依托的问题场景（分类、回归、聚类、降维）、机器学习模型评估与选择等。

在AI场景下，我们同样需要定量的数值化指标，来指导我们更好地应用模型对数据进行学习和建模。本文讲解模型评估的一般流程，以及分类评估指标、回归评估指标的计算方式和适用场景。

KNN算法（K近邻算法）是一种很朴实的机器学习方法，既可以做分类，也可以做回归。本文详细讲解KNN算法相关的知识，包括：核心思想、算法步骤、核心要素、缺点与改进等。

逻辑回归简单有效且可解释性强，是机器学习领域最常见的模型之一。本文讲解逻辑回归算法的核心思想，并讲解sigmoid函数、梯度下降、解决过拟合、线性/非线性切分等重要知识点。

朴素贝叶斯是一个非常直观的模型。本文讲解朴素贝叶斯算法的核心思想、贝叶斯公式、条件独立假设、平滑出等重要知识点，并图解多项式贝叶斯和伯努利贝叶斯等多种形态。

决策树是机器学习中一种经典的分类与回归算法。本文讲解用于分类的决策树，包括算法核心思想、算法过程、最优划分、属性选择、过拟合与连续值处理、缺失值处理等重要知识点。

随机森林是一种由决策树构成的（并行）集成算法。本文讲解随机森林算法涉及的模型集成、Bagging、算法特点及优缺点等重要知识点，最后介绍关键参数和参数调优。

用于回归任务的决策树称作回归树，属性选择与生长方式与分类决策树不同。本文讲解决策树回归算法的核心思想、启发式切分、最优属性选择、过拟合、正则化、以及缺失值处理等关键知识点。

GBDT是一种迭代的决策树算法，将决策树与集成思想进行了有效的结合。本文讲解GBDT算法的Boosting核心思想、训练过程、优缺点、与随机森林的对比、以及Python代码实现。

XGBoost一个非常强大的Boosting算法工具包，本文讲解XGBoost的算法原理和工程实现，包括回归树、集成、Gradient Boosting详细步骤、缓存访问等重点知识。

LightGBM是GBDT的进化版本，在效率、内存、准确率方面表现优秀。本文讲解LightGBM的动机、优缺点及优化点、决策树算法及生长策略、类别性特征支持、并行支持与优化等重要知识点。

SVM是机器学习领域非常知名的模型。本文讲解SVM的最大间隔分类器、模型原理、核函数与核技巧等重要知识点，并附上线性核函数、多项式核函数和高斯核函数的Python代码实践。

聚类是最常见的无监督学习算法。本文讲解聚类问题常见算法及用途，包括划分聚类的K-Means算法、K-Medoids算法，层次聚类的Single-Linkage 算法等重要知识点。

PCA（主成分分析）可以在对数据完成降维「压缩」的同时，尽量减少信息损失。本文讲解PCA算法的原理、步骤与Python代码实践，并讲解PCA的必要数学基础知识——基变换、方差、协方差等。

Python机器学习实战系列教程，以案例和代码驱动的方式，帮助大家学习机器学习算法应用流程和各个链条环节，掌握构建场景建模解决方案并进行效果调优的能力。

本篇文章详解机器学习应用流程，应用在结构化数据和非结构化数据(图像)上，借助案例重温机器学习基础知识，并学习应用机器学习解决问题的基本流程。

本篇内容介绍了SKLearn的核心板块，并通过SKLearn自带的数据集，讲解了一个典型的应用案例。

本篇内容详解scikit-learn工具库的用法，覆盖机器学习基础知识、SKLearn讲解、SKLearn三大核心API、SKLearn高级API等内容。

本篇内容详细讲解XGBoost的工程应用方法。XGBoost是一个非常强大的Boosting算法工具包，是很多大厂机器学习方案的模型首选，在并行计算效率、缺失值处理、控制过拟合等能力上都表现非常优秀。