机器学习

本笔记介绍机器学习中常见的无监督学习方法——降维。 降维方法概述 降维目的是将高维数据映射到低维空间中，同时尽量保留数据的主要信息。降维可以减少数据冗余、降低计算复杂度、减轻过拟合风险。

本笔记介绍机器学习中常见的聚类算法（Kmeans、GMM-使用EM优化）。聚类 K-Means K-Means 是一种经典的聚类算法，用于将数据集划分为 K 个簇，每个簇由其质心（簇中心）。

本文主要x阐述Boosting中常用算法（GBDT、XGBoost、LightGBM）的迭代路径。详细

集成学习（Ensemble Learning）概述 集成学习是一种通过组合多个模型（通常是弱模型）来提升整体预测性能的技术，主要分为 Bagging 和 Boosting 两类方法。

本笔记介绍机器学习中常见的决策树算法。决策树（Decision Tree）概述 决策树是一种基于树形结构的机器学习算法，广泛应用于分类和回归任务中。

本笔记介绍机器学习中朴素贝叶斯算法。贝叶斯定理（Bayes' Theorem） 贝叶斯定理用于描述事件之间的条件概率关系，解决分类和间接解决回归问题。

本笔记介绍机器学习中的 KNN（K-Nearest Neighbors，K 近邻算法），它是一种基于实例的监督学习算法，广泛应用于分类和回归任务中。

本笔记介绍机器学习中的感知机、MLP、SVM算法。感知机（Perceptron） 感知机是机器学习中最基本的线性分类模型之一，只有一个输入层和一个输出层，没有隐藏层。

30种常见机器学习算法简要汇总：监督学习、无监督学习算法、聚类算法、降维算法（线性降维算法、非线性降维算法）、集成学习算法等

机器学习中常见的特征工程、正则化、强化学习，在面试过程中能用到的知识。特征提取：从原始数据中提取能够有效表征数据特征的过程。

本笔记介绍机器学习中常见的损失函数和代价函数，各函数的使用场景。详细介绍KL散度的使用和原理，以及应用的场景。