数学中为什么要定义各种空间？ - 老楼的回答 - 知乎 www.zhihu.com/question/37…
压缩映射定理可以证明Q-learning的收敛性
介绍
内容：
数学分析对实数轴进行研究
实变函数研究函数
泛函分析研究空间
目的： 不是学做某一种题，而是学一种框架、逻辑
变分法： 求泛函极值的一种方法
函数->泛函
函数求极值->某种数学对象求极值
求导->变分法
第一章：线性赋范空间
1.1 线性空间
线性空间的定义：
非空集合+定义一些性质(线性性质)--->实的线性空间
线性空间的组成、性质：
线性无关： 一组元素线性无关，即其中任意一个元素都不能被其他元素的线性组合表示，
线性空间的基底：由线性空间中n个线性无关的元素组成，它们可以表示线性空间中任意的元素。
线性空间的维数： 基底的个数n。
【注】函数空间是无限维的，如傅里叶展开基底无数个
线性系统的同构：两个线性空间的元素存在一一对应的关系并且满足一些线性性质，则称这两个线性空间是同构的；如一个多项式对应三维欧几里得空间的基底合成的向量
线性空间的子空间：线性空间的子集，本身是一个线性空间，包含零元素
互补子空间：线性空间的任意一个元素可以分解到各个互补子空间中
线性流形：E是线性空间，L是E的一个子空间，x0是L外E中的一个元素，我们定义一个新的子空间为L+x0，这个就是E的一个流形=子空间的平移
如非齐次解空间=齐次解空间(L)+特解(x0),所以非齐次解空间是一个线性流形
线性空间中的凸集：空间有一个集合，它的任意两点之间做一个图组合，组合的元素均在集合中，就称这个集合为凸集
1.2距离空间&1.3线性赋范空间
【总结】
- 在线性空间中定义距离，然后就可以定义收敛的概念(两个对象的距离非常小)，有了收敛的概念，就可以定义集合中元素与元素之间的关系描述：球、内点、开集、聚点、闭集
- 在距离的基础上，刻画元素的大小，定义范数=空间中的每一个元素都对应于一个实数，该实数表示了元素的“大小”
1.4巴拿赫空间
基本序列(柯西列)：一个线性赋范空间X中的无穷序列,{x1 x2 x3 ...}，当n足够大，未来的所有元素都会被困在一个ε球里面，即任意两个元素之间无比接近，即收敛了。
X中任何收敛序列都是基本列，但是基本列不一定收敛；因为基本列可能收敛到的元素不属于X空间内，称这个X空间不完备。
巴拿赫空间：若线性赋范空间X中的任何基本列都收敛到X中的元素，则称X是完备的线性赋范空间，也即巴拿赫空间。
推论：任何有限维的线性赋范空间必为巴拿赫空间。 【注】有限维的线性赋范空间和R^n空间是同构的<--R^n空间是完备的<--n个R1的直和构成的<---R1实数轴是完备的
第二章：希尔伯特空间
我们一般接触的是线性空间（向量空间） ，首先看线性空间和各种空间之间的关系：
1.线性空间（向量空间） 线性空间又称作向量空间，关注的是向量的位置，对于一个线性空间，知道基（相当于三维空间中的坐标系）便可确定空间中元素的坐标（即位置）；线性空间只定义了加法和数乘运算。
如果我们想知道向量的长度怎么办？—-定义范数，引入赋范线性空间
2.赋范线性空间
定义了范数的线性空间！！
如果我们想知道向量的夹角怎么办？—-定义内积，引入内积空间
3.内积空间
定义了内积的线性空间！！
4.欧式空间
定义了内积的有限维实线性空间！！
如果我们想研究收敛性（极限）怎么办？—-定义完备
5.Banach空间
完备的赋范线性空间！！！
6.Hilbert空间
完备的内积空间！！！（极限运算中不能跑出度量的范围）
他们之间的关系可以用下图表示：
2.1内积空间
内积空间：线性空间+一些性质(任意两个元素对应一个实数)
内积可以诱导出范数。
如果是内积诱导的范数，并且在此范数定义下的内积空间是完备的，则称此空间未希尔伯特空间
2.2H空间的最佳逼近
最佳逼近元：点到集合的距离定义为下确界距离，不管是开集还是闭集，下确界都可以存在。元素0，集合1为(1,2]，集合2为[1,2]，元素0到集合的距离(下确界距离)均等于1。如果形成下确界的元素是集合的元素，则称此元素为元素0在集合中的最佳逼近元，即1是0在[1,2]的最佳逼近元。
正交：在H空间中，两个元素内积为0，则两个元素为正交；在H空间中，有一个元素和一个子集，元素与子集中的任意一个元素都正交，就称元素和子集合正交。
♥定理一：B是H空间中的闭凸子集，对任意的x∈H\B,都在B中存在一个唯一的最佳逼近元。
推论：B是H空间中的闭子集，对任意的x∈H\B,都在B中存在最佳逼近元。
闭保证了最佳逼近元的存在性，凸保证了最佳逼近元的唯一性。
x在闭子空间L上的最佳逼近元\wan{x}是x在闭子空间L上的投影；x-\wan{x}与L正交。
2.3H空间的Fourier级数
正交集：{e1 e2 ...}是H空间两两正交的一组元素。
规范正交集：正交集+每个元素的范数都是1
完全正交集:规范正交集+H空间的任意元素x均可以由这组正交集的线性组合表示
施密特正交化方法
要找x的最佳逼近元，对x进行傅里叶展开就行了
有限元就是求最佳逼近元
若最佳逼近元是在无限维空间中的，所以我们用有限维截断，得到最佳逼近元的近似值
对元素进行傅里叶展开，即元素跟基底做个内积就可以得到傅里叶系数，若元素的范数和系数平方和相等，(元素范数和它分解到各个基底的系数的平方和相等)，就称这组基底是完全的。
2.4索伯列夫空间
索伯列夫空间是特殊的希尔伯特空间
对内积进行了推广，使得它更适合研究微分方程
索伯列夫空间的建造是一个完备化的过程
定义在[a,b]的一阶连续可微函数构成的函数空间，定义了它的内积，由内积诱导出范数，由一个例子可以知道这个内积空间是不完备的，因为可以用一阶连续可微函数的序列去逼近一个连续但不可微的函数，即基本列不包含于这个内积空间；故我们对其进行扩张，将序列的导数的极限强行定为序列的极限(不可微函数)的导数，此时这个不可微函数就有了导数，则这个内积空间就完备了，将这个完备化了的内积的函数空间(希尔伯特空间)称之为索伯列夫空间
第三章：有界线性算子
之前学的是定义域和值域的结构，现在研究两个空间间的映射关系。
研究变换构成的空间。
算子就是某种作用、某种变换 ；例子：矩阵乘法就是作用一个线性变换
算子：算子T定义了定义域D(T)到值域R(T)的映射关系。
线性算子：这种映射关系，满足线性运算性质
算子的零空间：算子的零空间N(T)包含于D(T)，对于零空间的元素作用算子T后，得到的是值域中的零元素
算子的图像：(x,f(x)),原像和像构成的pair的全体就称为算子T的图像
有界算子：算子T作用后得到的元素的大小(范数)可以被作用前的元素的范数乘上一个正常数M来控制住
连续算子：连续：两个元素无比接近则它们由算子作用后得到的像也是无比接近，定义域内所有的元素都连续则称这个算子T是连续的
重要定理：
- T是线性算子，若算子T在某一点x0是连续的，则T在D(T)内处处连续；
- T是线性算子，算子T连续的充要条件是T有界。
算子范数：定义算子的作用强度--算子范数。设T是有界线性算子，因为有界，所以任意元素的像的范数都≤M*元素范数，找一个M使得任意的x∈D(T)都满足这个有界的不等式，有||T(x)/x||≤M，M就是||T(x)/x||的上界，M越大这个不等式越成立，现在我们找到M的最小的上界(再小一点点不等式就不成立了(下确界))，这个满足下确界的M我们就把它定义为算子T的范数
算子范数的等价形式：算子T的范数除了等于||T(x)/x||的下确界，还等于||x||=1时，||T(x)||的下确界，还等于||x||≤1时，||T(x)||的下确界
算子构成线性空间：X、Y两个线性赋范空间，X到Y的所有有界线性算子的全体L(X,Y)，若满足线性性质，则L(X,Y)便可成为线性空间
算子的强收敛：L(X,Y)中，某个序列Tn当n->∞，对于任意x均有Tn(x)趋近于T(x)，则称算子{Tn}强收敛于T
逆算子：X和Y一对一，则存在逆算子L^-1
不动点：X是巴拿赫空间，T:X->X,x经过T作用后得到x本身，称x为不动点
♥压缩映射原理：F为压缩算子，对于巴拿赫空间X中闭集Q存在唯一的不动点，对于Q的任意点，经过F无限次压缩后必收敛到不动点x*，若是n次压缩则还可以求出误差估计
第四章：有界线性泛函与共轭空间
泛函：是一种特殊的算子，它的值域是实数
共轭空间：记作X*,是线性赋范空间X上的所有有界线性泛函所构成的空间L(X,R);易知L(X,R)是巴拿赫空间(因为线性赋范空间X到巴拿赫空间Y的算子空间L(X,Y)是巴拿赫空间)
n维欧氏空间En：每个元素可以表示为n个有序数组,给定一个n个有序数组，便可以在En中定义一个有界线性泛函
n维欧氏空间的有界线性泛函是有一个唯一一般形式的
对偶基：En的n个与基底向量对偶的泛函算子的组合{f1,...,fn}称为基底{e1,...,en}的对偶基
定理(变分法的基本原理)(试探法)：X是一个有限维的空间(和n维欧氏空间同构)，如果有一个元素x0，我们把X共轭空间中的所有泛函算子对x0作用得到的结果都是实数0，则x0必为X空间中的零元素；此定理可以用来检验一个元素是否是零元素
自共轭：En（n维欧几里得空间）是自共轭的，即X的所有有界线性泛函均可与X上的元素对应起来
Hilbert空间的共轭空间：对于H空间的每一个元素y，有且只有一个有界线性泛函F(x)=<y,x>(x是任意的H空间的元素;<y,x>表示y和x的内积)与之对应，并且有||F||=||y||；故可知H空间的所有有界线性泛函均可与X上的元素对应起来，即H空间也是自共轭的
算子的强收敛：L(X,Y)中，某个序列Tn当n->∞，对于任意x均有Tn(x)趋近于T(x)，则称算子{Tn}强收敛于T
强收敛：X线性赋范空间，有一个序列{xn}，当n->∞，||xn-x||<ε，称xn强收敛于x
弱收敛(映射后收敛了)：X线性赋范空间，F∈X*,有一个序列{xn}，当n->∞，||F(xn)-F(x)||<ε,称xn弱收敛于x
共轭算子(矩阵的转置):算子T∈L(X,Y),则T的共轭算子T*∈L(Y*,X*)
元素和算子的正交：如果<x,F>=0,则称x和F正交的，其中x∈X，F∈X*
正交补：S是X的子集，跟S所有元素均正交<s,F>=0的所有有界线性泛函的全体，称为S的正交补，记作S⊥
正交补的定理：X、Y线性赋范空间，T∈L(X,Y),则[R(T)]⊥=N(T*)
第五章：泛函的极值
一阶变分：函数发生微小变化，对应的泛函发生的微小变化
泛函极值的必要条件：
- x0的领域内，对所有x有F(x0)≤F(x)，则称x0为泛函F的局部极小点，F(x0)为泛函F的局部极小值(x0，x是广义上的元素，可以指函数)
- 泛函F在x0处达到极值，则在x0处对于任意h，均存在一阶变分δF(x0,h)，且δF(x0,h)=0
变分法的基本引理：x∈X，对于任意的v(x)，均有积分u(x)v(x)dx=0，积分限是整个X，则有u(x)＝0
