【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(9):矩阵的秩、线性方程组的解

804 阅读3分钟

小知识,大挑战!本文正在参与“程序员必备小知识”创作活动。

前言

Hello!小伙伴!

非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~

 

自我介绍 ଘ(੭ˊᵕˋ)੭

昵称:海轰

标签:程序猿|C++选手|学生

简介:因C语言结识编程,随后转入计算机专业,有幸拿过一些国奖、省奖...已保研。目前正在学习C++/Linux/Python

学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!

 

机器学习小白阶段

文章仅作为自己的学习笔记 用于知识体系建立以及复习

知其然 知其所以然!

若查看数学公式不全或显示错误

可以查看:MML学习笔记(九):线性代数之矩阵的秩、线性方程组的解

3.2 矩阵的秩

秩的第一种定义

对于一个m*n矩阵AA,一定存在一个标准形矩阵F(由A经过初等变化得到) ​

F=[Er000]mnF=\begin{bmatrix} E_{r} & 0\\ 0 & 0 \end{bmatrix}_{m*n}

数r就是A的行阶梯形矩阵中非零行的个数,也就是矩阵A的秩

k阶子式子

在m * n矩阵A中,任意取k行、k列(k<=m 且 k<=n) ,位于这些行列交叉处k2k^2个元素,不改变它们在A中所处的位置次序而得到的k阶行列式,称为矩阵A的k阶子式子 ​ m*n矩阵A的k阶子式一共有CmkCnkC^k_m * C^k_n个 ​

秩的第二种定义

假设在矩阵A中,存在一个不等于0的r阶子式D,且所有的 r+1 阶子式(存在的情况下)全等于0,那么D就称为矩阵A的最高阶非零子式,数r就是矩阵A的秩,记作R(A)=rR(A)=r

规定零矩阵的秩等于0

当A中所有的r+1阶子式都为0时,那么所有高于r+1阶的子式也全等于0.因此把r阶非零子式称为最高阶非零子式,而A的秩R(A)R(A)就是A的非零子式的最高阶数 ​ 若A为m*n矩阵,那么有0R(A)min{m,n}0 \leq R(A) \leq min \{ m,n \}

若A为n阶子式

  • 当|A|!=0时,R(A)=n
  • 当|A|=0时,R(A)<n

说明,可逆矩阵的秩等于矩阵的阶数,而不可逆矩阵的秩则小于矩阵的阶数。所以,可逆矩阵称为满秩矩阵,不可逆矩阵为降秩矩阵

(以上为n阶方阵的情况下, 若矩阵秩等于行数,称为行满秩;若矩阵秩等于列数,称为列满秩。 既是行满秩又是列满秩则为n阶矩阵即n阶方阵。 行满秩矩阵就是行向量线性无关,列满秩矩阵就是列向量线性无关;所以如果是方阵,行满秩矩阵与列满秩矩阵是等价的。)

定理2

ABA~B,则有R(A)=R(B)R(A)=R(B)

推论

若可逆矩阵P、Q,使得,则R(A)=R(B)R(A)=R(B)

所以,依据定理2,求一个矩阵的秩,只需要将矩阵进行一系列初等行变化变为行阶梯形矩阵,其中非零行的行数就是该矩阵的秩

秩的基本性质

矩阵秩的一些基本性质 (1)0R(Amn)min{m,n}0 \leq R(A_{m*n}) \leq min\{ m,n \}

(2)R(AT)=R(A)R(A^T)=R(A)

(3)若ABA~B,则有R(A)=R(B)R(A)=R(B)

(4)若P、Q可逆,则R(PAQ)=R(A)R(PAQ)=R(A)

(5) 特别地,当B=b为非零列向量时,有R(A)R(A,b)R(A)+1R(A) \leq R(A,b) \leq R(A)+1

(6)R(A+B)R(A)+R(B)R(A+B) \leq R(A)+R(B)

(7)R(AB)min{R(A),R(B)}R(AB) \leq min \{ R(A),R(B) \}

(8)若AmnBnl=OA_{m*n}B_{n*l}=O,则R(A)+R(B)nR(A) + R(B) \leq n

证明: max{R(A),R(B)}<=R(A,B)<=R(A)+R(B)max \{ R(A), R(B)\} <= R(A, B) <= R(A) + R(B)

首先 毋庸置疑

R(A)R(A,B)R(B)R(A,B)R(A) \leq R(A,B) 、R(B) \leq R(A,B)

推出 ​ max{R(A),R(B)}<=R(A,B)max\{ R(A), R(B) \} <= R(A,B)

R(A)=rR(B)=tR(A)=r、R(B)=t ​ 分别对A、B进行列变换 将其转换为 **列阶梯形 **矩阵,设为A~B~\tilde{A}、\tilde{B} ​ 则A~B~\tilde{A}、\tilde{B}中分别含有r个和t个非零列

所以 ​ AA~(c,列变换)=(a1~,a2~...ar~,0...0)A \sim \tilde{A} (c,列变换) = (\tilde{a_1},\tilde{a_2}...\tilde{a_r},0...0) BB~(c,列变换)=(b1~,b2~...br~,0...0)B \sim \tilde{B} (c,列变换) = (\tilde{b_1},\tilde{b_2}...\tilde{b_r},0...0)

所以 (A,B)(A~,B~)(A,B) \sim (\tilde{A},\tilde{B})

因为(A~,B~)(\tilde{A},\tilde{B})中有 r+t 个非零列 ​

所以 R(A~,B~)r+tR(\tilde{A},\tilde{B}) \leq r+t

所以 R(A,B) = R(\tilde{A},\tilde{B}) \leq r + t \tag2

综上 由(1)(2)式 得

max{R(A),R(B)}<=R(A,B)<=R(A)+R(B)max\{R(A), R(B) \} <= R(A, B) <= R(A) + R(B)

证明:R(A+B)R(A)+R(B)R(A+B) \leq R(A)+R(B)

首先设ABA、B为m*n矩阵

对矩阵(A+B,B)(A+B,B)通过做列变换得到 (A,B)(A,B)

分别减去对应加上的列即可

所以 (A+B,B)(A,B)(c,列变换)(A+B,B) \sim (A,B)(c,列变换) 所以有 R(A+B)R(A+B,B)=R(A,B)R(A)+R(B)R(A+B) \leq R(A+B,B)=R(A,B) \leq R(A)+R(B)

3.3 线性方程组的解

定理3

对于nn元线性方程组 Ax=bAx=b (1)无解的充分必要条件是 R(A)<R(A,b)R(A)<R(A,b) (2)有唯一解的充分必要条件是R(A)=R(A,b)=nR(A)=R(A,b)=n (3) 有无限多解的充分必要条件是 R(A)=R(A,b)<nR(A)=R(A,b)<n

定理4

nn元齐次线性方程组Ax=0Ax=0有非零解的充分必要条件是 R(A)<nR(A)<n

首先Ax=0Ax=0 肯定有一个0解 还需要有非零解 说明解不止一个 所以 R(A)=R(A,0)<nR(A)=R(A,0)<n

定理5

线性方程组Ax=bAx=b有解的充分必要条件是R(A)=R(A,b)R(A)=R(A,b)

定理6

矩阵方程组Ax=BAx=B有解的充分必要条件是R(A)=R(A,B)R(A)=R(A,B)

结语

说明:

  • 参考于 课本《线性代数》第五版 同济大学数学系编
  • 配合书中概念讲解 结合了自己的一些理解及思考

文章仅作为学习笔记,记录从0到1的一个过程

希望对您有所帮助,如有错误欢迎小伙伴指正~

我是 海轰ଘ(੭ˊᵕˋ)੭

如果您觉得写得可以的话,请点个赞吧

谢谢支持 ❤️

在这里插入图片描述