人工智能之数学基础

人工智能之数学基础 信息论 第四章 应用延伸 前言 信息论不仅是通信工程的基石，更在人工智能、深度学习、大数据处理中扮演关键角色。从神经网络中的嵌入表示到大模型的 Token 压缩，从变分自编码器（V

人工智能之数学基础 信息论 第三章 实用工具 前言 在机器学习和数据科学中，如何从成百上千个特征中选出最有用的子集？ 信息论提供了强大而优雅的工具：互信息（Mutual Information） 和

人工智能之数学基础 信息论 第二章 核心度量 前言 交叉熵（Cross-Entropy）和 KL 散度（Kullback-Leibler Divergence）是现代机器学习，尤其是深度学习分类任务的

人工智能之数学基础 信息论 第一章 基础概念 前言 信息论由克劳德·香农（Claude Shannon） 于1948年创立，是通信、数据压缩、密码学、机器学习（尤其是特征选择、决策树、变分推断）的理论

人工智能之数学基础 离散数学 第四章 离散概率 前言 离散概率是离散数学与概率论的交叉核心，为机器学习中的分类、采样、不确定性建模提供理论基础。本文系统讲解： 离散概率空间与基本公理 离散型随机变量及

人工智能之数学基础 离散数学 第三章 组合数学 前言 组合数学是离散数学的核心分支，研究离散对象的计数、构造与优化。它在密码学、算法设计、概率论、机器学习特征工程、AI 组合优化等领域有广泛应用。本文

人工智能之数学基础 离散数学 第二章 图论 前言 图论是离散数学的核心分支，广泛应用于社交网络分析、路径规划、编译器优化、知识图谱、推荐系统等计算机科学领域。本文系统讲解： 图的基本概念（有向图/无向

人工智能之数据基础 离散数学 第一章 集合论与逻辑推理 前言 离散数学是计算机科学、人工智能和形式化方法的理论基石。集合论提供了数据结构的抽象基础，命题逻辑和谓词逻辑则是知识表示、自动推理和规则系统的

人工智能之数学基础 优化理论 第四章 凸函数与非凸函数 前言 在优化理论中，凸性（Convexity） 是决定问题“难易程度”的核心属性。凸优化问题具有全局最优解可高效求解的优良性质，而非凸问题则充满

人工智能之数学基础 优化理论 第三章 约束优化----公式关注公众号 前言 约束优化是优化理论的核心分支，广泛应用于机器学习（如正则化）、经济学（资源分配）、工程设计（结构优化）等领域。本文系统讲解等

人工智能之数学基础 优化理论 第二章 无约束优化----公式关注公众号 前言 本文将系统讲解 梯度下降（Gradient Descent, GD）、随机梯度下降（Stochastic Gradient

人工智能之数学基础 优化理论 第一章 优化基础 前言 优化（Optimization） 是在给定条件下寻找“最佳”决策的数学过程，广泛应用于机器学习、工程设计、经济学、运筹学等领域。本文系统讲解优化问

人工智能之数学基础 微积分 第四章 积分应用 前言 积分是微积分的两大支柱之一，与导数互为逆运算。定积分不仅用于计算面积、体积，更是概率论中累积分布函数（CDF）的核心工具。本文系统讲解不定积分、定积

人工智能之数学基础 微积分 第三章 基本法则 前言 微积分中的求导法则是高效计算复杂函数导数的工具箱。本文系统讲解链式法则（Chain Rule）、乘积法则（Product Rule）、商法则（Quo

人工智能之数学基础 微积分 第二章 多变量微积分 前言 多变量微积分研究多元函数（$ f: \mathbb{R}^n \to \mathbb{R}^m $）的变化规律，是机器学习、优化、物理建模和经济

人工智能之数学基础 微积分 第一章 单变量微积分 前言 微积分是现代科学与工程的基石，而单变量微积分（函数 $ f: \mathbb{R} \to \mathbb{R} $）是其最基础、最直观的部分。

人工智能之数学基础 概率论与统计 第三章 参数估计 前言 参数估计是从观测数据中推断未知分布参数的核心任务。本文系统介绍两种主流方法——极大似然估计（Maximum Likelihood Estima

人工智能之数学基础 概率论与统计 第二章 核心定理 前言 概率论中的三大核心定理——贝叶斯定理（Bayes' Theorem）、大数定律（Law of Large Numbers） 和 中心极限定理（

人工智能之数学基础 概率论与统计 第一章 基础概念 前言 概率论与统计是数据科学、机器学习、金融工程等领域的数学基石。本文系统介绍随机变量、常见概率分布（高斯/伯努利/多项式）、期望、方差、协方差等核

人工智能之数学基础 线性代数 第五章 张量 前言 虽然“张量”一词在物理学、微分几何中有更广义的定义，但在现代数据科学、机器学习和数值计算中，张量通常被理解为多维数组（multi-dimensiona