人工智能学习笔记

无监督学习是在没有标签数据的情况下，从数据中自动发现结构、模式或分布特征的方法。 其核心目标不是预测，而是理解数据本身，常用于探索性分析、特征学习和数据预处理。

K-近邻（K-Nearest Neighbors, K-NN）和朴素贝叶斯（Naive Bayes）都是非常经典的监督学习算法， 前者是基于距离的惰性学习方法，后者是基于概率统计的生成式模型

总结了人工智能学习路线，从数学基础、编程工具、经典机器学习算法，到深度学习与现代模型，涵盖监督/无监督、神经网络、生成模型及强化学习，适合作为入门和进阶参考指南。

介绍了向量与矩阵的基本概念、常见运算及几何意义，涵盖了内积、范数、二维与三维叉乘，矩阵的定义、秩、迹、行列式、逆等运算，以及特征值、特征向量和奇异值分解（SVD）的概念与应用，为人工智能中的数学基础打

总结了微积分在人工智能中的核心概念，包括导数、偏导、梯度、梯度下降、泰勒展开和积分。理解这些工具有助于模型训练与函数分析。

概率与统计是人工智能处理不确定性和数据的基础工具。概率分布描述随机变量，贝叶斯公式和条件概率用于推断，最大似然估计用于参数估计，期望与方差衡量分布特性，蒙特卡洛方法用于模拟和近似计算。

优化理论研究如何最小化目标函数，凸函数保证全局最优，非凸函数存在局部极值。约束问题可用拉格朗日乘子处理。优化方法在模型训练和损失函数最小化中至关重要。

Python 简洁、易读、支持丰富库生态，是人工智能核心语言，Jupyter 提供交互式实验环境，非常适合探索式开发和学习。

NumPy 提供高效的数值与矩阵计算，pandas 负责结构化数据的读取、清洗与分析，matplotlib 与 seaborn 用于数据结果的可视化展示，共同构成 AI 数据分析的基础工具链。

scikit-learn（sklearn）该库覆盖了绝大多数传统机器学习的监督与无监督算法，并提供完善的模型评估、特征工程与流程化工具，是机器学习编程实现的核心。

深度学习框架用于构建、训练和部署神经网络模型，是现代人工智能（尤其是计算机视觉、自然语言处理、语音识别）的核心基础设施。

机器学习是人工智能的重要分支，本质是通过已有数据选择合适的学习方法（数学函数），找到能使损失最小化的函数模型，然后利用这个模型对未知数据进行预测。

介绍机器学习中线性模型在监督学习中的应用，包括线性回归和逻辑回归，以及正则化和特征缩放的概念介绍和方法介绍。

树模型是一类基于“递归划分特征空间”的监督学习方法，通过不断将数据划分为更“纯”的子集来完成分类或回归任务。在实际应用中，单棵决策树通常与集成学习方法结合使用，以提升泛化性能和稳定性。

支持向量机（Support Vector Machine, SVM）是一类基于几何间隔最大化思想的监督学习算法，广泛用于分类与回归任务。