【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(22):线性空间的定义与性质

996 阅读4分钟

「这是我参与11月更文挑战的第1天,活动详情查看:2021最后一次更文挑战

前言

Hello!小伙伴!

非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~

 

自我介绍 ଘ(੭ˊᵕˋ)੭

昵称:海轰

标签:程序猿|C++选手|学生

简介:因C语言结识编程,随后转入计算机专业,有幸拿过一些国奖、省奖...已保研。目前正在学习C++/Linux/Python

学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!

 

机器学习小白阶段

文章仅作为自己的学习笔记 用于知识体系建立以及复习

知其然 知其所以然!

6.1 线性空间的定义与性质

定义1:线性空间

VV是一个非空集合R\mathbb{R}实数域

如果对于任意两个元素α,βV\alpha,\beta \in V,总有惟一的一个元素γV\gamma \in V与之对应,称为α\alphaβ\beta的和,记作γ=α+β\gamma=\alpha+ \beta

对于任一数λR,αV\lambda\in \mathbb{R},\alpha \in V,总有惟一的一个元素δV\delta\in V与之对应,称为λ\lambdaα\alpha的积,记作δ=λα\delta=\lambda \alpha

并且这两种运输满足八条运算规律

  1. α+β=β+α\alpha+\beta=\beta+\alpha
  2. (α+β)+γ=α+(β+γ)(\alpha+\beta)+\gamma=\alpha+(\beta+\gamma)
  3. VV中存在零元素0\boldsymbol0,对任何αV\alpha\in V,都有α+0=α\alpha+\boldsymbol0=\alpha
  4. 对任何αV\alpha \in V,都有α\alpha的负元素βV\beta \in V,使α+β=0\alpha+\beta=\boldsymbol0
  5. 1α=α1\alpha=\alpha
  6. λ(μα)=(λμ)α\lambda(\mu\alpha)=(\lambda \mu)\alpha
  7. (λ+μ)α=λα+μα(\lambda+\mu)\alpha=\lambda \alpha+\mu\alpha
  8. λ(α+β)=λα+λβ\lambda(\alpha+\beta)=\lambda \alpha+\lambda\beta

注:α,β,γV;λ,uR\alpha,\beta,\gamma \in V;\lambda,u\in \mathbb{R}

那么VV就称为实数域R\mathbb{R}上的向量空间(或线性空间)

简言之

  • 凡是满足上面八条规律的加法和乘法运算,就称为线性运算
  • 凡是定义了线性运算的集合,就称为向量空间

线性空间的性质

性质1

零元素是惟一的

证明(反证法)

假设存在两个零元素01,02V0_1,0_2 \in V

依据零元素的定义,有

{01+02=01(02看成零元素)01+02=02(01看成零元素)\begin{cases} 0_1 + 0_2=0_1(0_2看成零元素)\\ 0_1 + 0_2=0_2(0_1看成零元素)\\ \end{cases}

得到

01=020_1=0_2

即可说明零元素是惟一的

性质2

任意元素的负元素是惟一的,α\alpha的负元素记作α-\alpha

证明(反证法)

假设αV\alpha \in V有两个负元素,记作β,γ\beta,\gamma

依据负元素的定义,有

{α+β=0α+γ=0\begin{cases} \alpha + \beta = 0\\ \alpha + \gamma = 0 \end{cases}

β=β+0=β+(α+γ)=(β+α)+γ=0+γ=γ\beta=\beta+0=\beta+(\alpha+\gamma)=(\beta+\alpha)+\gamma=0+\gamma=\gamma

β=γ\beta=\gamma

综上,任意元素的负元素是惟一的

性质3

10α=0(1)0\alpha=\boldsymbol0 2(1)α=α(2)(-1)\alpha=-\alpha 3λ0=0(3)\lambda \boldsymbol0=\boldsymbol0

证(1)

α+0α=1α+0α=(1+0)α=α\alpha+0\alpha=1\alpha+0\alpha=(1+0)\alpha=\alpha

得到

0α=00\alpha=\boldsymbol0

证(2)

α+(1)α=(11)α=0\alpha+(-1)\alpha=(1-1)\alpha=\boldsymbol0

依据负元素的定义,得到

(1)α=α(-1)\alpha=-\alpha

证(3)

λ0=λ(α+(1)α)=λα+(λ)α=(λ+(λ))α=0α=0\lambda \boldsymbol0=\lambda(\alpha+(-1)\alpha)=\lambda\alpha+(-\lambda)\alpha=(\lambda+(-\lambda))\alpha=0\alpha=\boldsymbol0

λ0=0\lambda \boldsymbol0=\boldsymbol0

性质4

如果λα=0\lambda \alpha=\boldsymbol0,则λ=0\lambda=0α=0\alpha=\boldsymbol0

证明

(1)证充分性:

λ=0\lambda=0时,λα=0\lambda \alpha=\boldsymbol0

λ0\lambda\neq0时,

等式λα=0\lambda \alpha=\boldsymbol0两边乘1λ\frac{1}{\lambda},得

1λ(λα)=1λ0=0\frac{1}{\lambda}(\lambda \alpha)=\frac{1}{\lambda}\boldsymbol0=\boldsymbol0

又因为

1λ(λα)=(1λλ)α=1α=α\frac{1}{\lambda}(\lambda \alpha)=(\frac{1}{\lambda}\lambda)\alpha=1\alpha=\alpha

推出

α=0\alpha=\boldsymbol0

(2)证必要性:

λ=0\lambda=0α=0\alpha=\boldsymbol0

很容易得到λα=0\lambda \alpha=\boldsymbol0

综上,如果λα=0\lambda \alpha=\boldsymbol0,则λ=0\lambda=0α=0\alpha=\boldsymbol0

举例

例1

说明P[x]nP[x]_n为向量空间,其中P[x]nP[x]_n表示次数不超过n的多项式的全体

P[x]n={anxn+an1xn1+...+a1x+a0an,...,a1,a0R}P[x]_n=\{a_nx^n+a_{n-1}x^{n-1}+...+a_1x+a_0|a_n,...,a_1,a_0 \in \mathbb{R} \}


证明

证加法运算封闭性:

αP[x]n,βP[x]n\alpha\in P[x]_n,\beta\in P[x]_n

α+βP[x]n\alpha + \beta \in P[x]_n

α+β\alpha + \beta中的任意一项的次数都不会超过nn,所以结果也是属于P[x]nP[x]_n

证数乘运算封闭性:

kR,αP[x]nk\in \mathbb{R},\alpha \in P[x]_n

kαP[x]nk\alpha \in P[x]_n

数乘运算不会使得P[x]nP[x]_n的最高次数超过n,所得结果也是在P[x]nP[x]_n

多项式的加法、数乘运算满足线性运算规律,即八条运算规律,这里就不再细说了

综上,P[x]nP[x]_n为向量空间

例2

说明Q[x]nQ[x]_n为向量空间,其中Q[x]nQ[x]_n表示为

Q[x]n={anxn+an1xn1+...+a1x+a0an,...,a1,a0R,且an0}Q[x]_n=\{a_nx^n+a_{n-1}x^{n-1}+...+a_1x+a_0|a_n,...,a_1,a_0 \in \mathbb{R},且a_n\neq0 \}


证明

证加法运算封闭性:

αQ[x]n,βQ[x]n\alpha \in Q[x]_n,\beta \in Q[x]_n

α+βQ[x]n\alpha + \beta \in Q[x]_n

证数乘运算封闭性:

kR,αQ[x]nk\in \mathbb{R},\alpha \in Q[x]_n

得到 kαk\alpha不一定属于Q[x]nQ[x]_n

特殊情况是当k=0k=0

kα=0α=0k\alpha=0\alpha=0

注意Q[x]nQ[x]_n定义中an0a_n\neq0 ,说明Q[x]nQ[x]_n一定是非零的

所以数乘运算不封闭

综上,Q[x]nQ[x]_n不是向量空间

例5

正实数的全体,记作R+\mathbb{R}^+,在其中定义加法及数乘运算为

{ab=ab(a,bR+)λa=aλ(λR,aR+)\begin{cases} a\oplus b=ab(a,b\in \mathbb{R}^+)\\ \lambda \odot a=a^{\lambda}(\lambda\in \mathbb{R},a\in \mathbb{R^+} ) \end{cases}

试验证R+\mathbb{R}^+对上述加法与数乘运算构成线性空间

证明

证加法运算封闭性:

对任意a,bR+a,b\in\mathbb{R}^+,都有

ab=abR+a\oplus b=ab \in \mathbb{R}^+

证数乘运算封闭性:

对任意λR,aR+\lambda\in \mathbb{R},a\in \mathbb{R^+},有

λa=aλR+\lambda \odot a=a^{\lambda}\in \mathbb{R^+}

证八条运算规律:

这里就不一一证明了,结果是八条运算规律都满足

但需要注意的是

此时的零元素是1

即对任意aR+a \in \mathbb{R^+},有a1=aa\oplus1=a

只需要按照负元素、零元素的定义,然后根据我们自定义的运算规则进行求解即可

小结

(1)证明一个集合是否构成向量空间,肯定是不能去验证加法、数乘运算的封闭性

(2)当所定义的加法和数乘运算不是通常的实数间的加法和数乘运算,则还需要证明是否满足八条线性运算规律

(3)证明惟一性时,可以使用反证法,假设同时存在多个元素,再证明这几个元素相等。

结语

说明:

  • 参考于 课本《线性代数》第五版 同济大学数学系编
  • 配合书中概念讲解 结合了自己的一些理解及思考

文章仅作为学习笔记,记录从0到1的一个过程

希望对您有所帮助,如有错误欢迎小伙伴指正~

我是 海轰ଘ(੭ˊᵕˋ)੭

如果您觉得写得可以的话,请点个赞吧

谢谢支持 ❤️