图解AI数学基础 ◉ 100个知识要点

本系列教程展开讲解AI所需的数学基础知识，力求以最直观最易懂的方式给帮助大家掌握AI依赖的数学知识最小子集。本教程内容覆盖线性代数与矩阵论，概率与统计，信息论，微积分与最优化几个核心的知识板块。

线性代数和矩阵在ML和DL中扮演着非常重要的角色。本文将这部分的数学基础知识进行整理，加深理解，帮助大家在机器学习与深度学习这条路上走的更远，包括向量、范数、特征分解、奇异值分解、广义逆、常用距离度量

机器学习会更多地使用概率论处理不确定量或随机量，很多典型的机器学习算法也是基于概率的。本文将机器学习中常见的概率与统计知识做一个梳理：随机变量、随机向量、概率分布、条件概率、贝叶斯公式、期望、方差等。

信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。信息论中包含的知识和概念在机器学习中也有应用，典型的例子是其核心思想『熵』的应用。

最优化方法是机器学习中非常重要的理论，也是机器学习依赖的数学知识之一。李航博士的《统计学习方法》将机器学习总结为：机器学习 = 模型 + 策略 + 算法。而公式中的算法指的就是优化算法。