机器学习

一、 强化学习核心概念与设置 强化学习（Reinforcement Learning, RL）研究智能体（Agent）如何在复杂环境中通过试错来最大化长期累积奖赏 1. 马尔可夫决策过程 (MDP)

摘要：本文系统介绍了聚类分析的关键技术，包括性能度量、距离计算和经典算法。性能度量分为外部指标（如JC、FMI）和内部指标（如DBI、DI）。距离计算涵盖闵可夫斯基距离（含曼哈顿和欧氏距离）及马氏距离

1. k近邻学习 (kNN) kNN 是一种常用的监督学习方法，其工作机制非常直观：对于给定的测试样本，在训练集中找到距离最近的 $k$ 个样本，根据这 $k$ 个“邻居”的信息进行预测 1。 分类与

集成学习通过组合多个学习器提升性能，主要分为同质（基学习器）和异质（组件学习器）集成。Boosting类方法（如AdaBoost、GBDT）通过串行优化降低偏差，调整样本权重或拟合梯度；Bagging

本文系统梳理了贝叶斯分类器的核心理论与算法。首先介绍了贝叶斯决策论的基本公式和两种决策准则（最小错误率与最小风险）。重点讲解了朴素贝叶斯分类器的原理、计算步骤（包括先验概率和条件概率的估计）以及拉普拉

拉格朗日对偶法（Lagrange Dual Method） 示例问题：二维线性可分 SVM 假设我们只有两个样本点，特征空间为

本文介绍了决策树的基本概念、核心算法及其应用。决策树是一种监督学习方法，通过递归划分数据集构建树形结构，包含根节点、内部节点和叶节点。重点解析了三种经典算法：ID3基于信息增益，C4.5引入增益率解决

第2讲：模型选择与评估 —— 深度复习笔记 一、 核心理论：VC维与可学习性 (Computational Theory) 这部分通常考察选择题或简答题，核心是理解模型复杂度与样本量的关系。 基本定义

本文系统介绍了机器学习中的线性模型，包括线性回归、对数几率回归和线性判别分析三大核心算法。重点讲解了线性回归的最小二乘法求解和L1/L2正则化特性，对比了岭回归与Lasso回归的几何意义和应用场景。详