小知识，大挑战！本文正在参与“程序员必备小知识”创作活动。

前言

Hello！小伙伴！

非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～

 

自我介绍 ଘ(੭ˊᵕˋ)੭

昵称：海轰

标签：程序猿｜C++选手｜学生

简介：因C语言结识编程，随后转入计算机专业，有幸拿过一些国奖、省奖...已保研。目前正在学习C++/Linux/Python

学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！

 

机器学习小白阶段

文章仅作为自己的学习笔记 用于知识体系建立以及复习

知其然 知其所以然！

若查看数学公式不全或显示错误

可以查看：MML学习笔记（十一）：线性代数之向量组的线性相关性

4.2 向量组的线性相关性

定义4

线性相关/无关

给定向量组：$A:a_1,a_2,....,a_m$，如果存在不全为零的数$k_1,k_2,...,k_m$（至少有一个$k$不为0）使

$k_1a_1 + k_2a_2 + .... + k_ma_m = 0$

则称向量组A是线性相关的

否则称其为线性无关（$k_1,k_2,...k_m全为0$）

特殊情况

（1） 当 m = 1 时，向量组A也就只含有一个向量，即$A:a$

• a = 0 时， 线性相关（任意一个k都会使得 $ka = 0$，一定就存在一个$k$使得$ka=0$，所以一定线性相关）
• a != 0 时， 线性无关（只有当k = 0 时，才会使得 $ka = 0$，所以一定线性无关）

（2） 当 m = 2 时， $A:a_1,a_2$，其线性相关的充分必要条件是 $a_1,a_2$的分量对应成比例，几何意义是两向量共线

当$A:a_1,a_2$线性相关时 $k_1a_1 + k_2 a_2 = 0$ $k_1a_1 = -k_2 a_2$ $\frac{a_1}{a_2} = \frac{-k_2}{k_1}(k1\neq0)$ 得到 $a_1,a_2$的分量对应成比例 反过来也一样

（3） 当 m = 3 时，$A:a_1,a_2,a_3$，其线性相关的几何意义是三向量共面

当$A:a_1,a_2,a_3$线性相关时 $k_1a_1 + k_2a_2 + k_3a_3 = 0$ $k_3 a_3 = - k_1 a_1 - k_2 a_2$ $a_3 = -\frac{k_1}{k_3}a_1 - \frac{k_2}{k_3}a_2$ 说明 向量$a_3$可以由向量$a_1,a_2$合成（$k_1,k_2,k_3都是常数$）

且位于位于同一平面 所以三个向量共面

（4） 向量组$A:a_1,a_2,...,a_m(m \geq 2)$线性相关，也就是向量组$A$中至少有一个向量能由其余$m- 1$个向量线性表示

证明：

假设向量组$A$线性相关，则有不全为0的数$k_1,k_2,...,k_m$使得$k_1a_1 + k_2a_2+....+ k_ma_m= 0$

$k_1,k_2,....,k_m$不全为0，那么我们可以设$k_1 \neq 0$，就有

$k_1a_1 = -(k_2a_2+...+k_ma_m)$

$a_1= \frac{-1}{k_1}(k_2a_2+...+k_ma_m)$

说明$a_1$可以由$a_2,...,a_m$线性表示

（5） 向量组$A:a_1,a_2,...,a_m$构成矩阵$A=(a_1,a_2,...,a_m)$，向量组$A$线性相关，就是奇次线性方程组$x_1a_1 + x_2a_2 +.... + x_ma_m=0$即$Ax = 0$有非零解

定理4

由向量组$a_1,a_2,...,a_m$线性相关的充分必要条件就是它所构成的矩阵$A=(a_1,a_2,...,a_m)$的秩小于向量个数$m$；向量组线性无关的充分必要条件是$R(A)=m$

线性相关：$R(A) < m$ 线性无关：$R(A) = m$

举例

例4

试讨论$n$维单位坐标向量组的线性相关性

解答：

$E=(e_1,e_2,...,e_n)$是$n$阶单位矩阵

单位矩阵：从左上角到右下角的对角线（称为主对角线）上的元素均为1，除此以外全都为0

显然

$|E| = 1 \neq 0$

得到

$R(E)=n$

由定理4可得，$n$维单位坐标向量组为线性无关

例5

已知

讨论向量组$a_1,a_2,a_3$及向量组$a_1,a_2$的线性相关性

解答：

可以得到

• $R(a_1,a_2,a_3) = 2$，说明$a_1,a_2,a_3$线性相关

• $R(a_1,a_2)=2$，说明$a_1,a_2$线性无关

例6

已知向量组$a_1,a_2,a_3$线性无关，$b_1=a_1 + a_2,b_2=a_2 + a_3,b_3=a_3+a_1$，试证明向量组$b_1,b_2,b_3$线性无关

证法一

设

$B=(b_1,b_2,b_3),A=(a_1,a_2,a_3)$

由

推出

令$K =\begin{bmatrix} 1& 0 & 1\\ 1 & 1 & 0\\ 0 & 1 & 1 \end{bmatrix}$ 得到

$B=AK$

设

$x_1b_1 + x_2b_2 + x_3b_3=0$

令

得到

$Bx=0$

又因为$B=AK$ 所以

$Bx=(AK)x=A(Kx)=0\rightarrow A(Kx)=0$

因为$A$中的列向量都是线性无关的，所以$R(A)=3$

说明方程$A(Kx)=0$只有一个解，就是零解

则$Kx=0$

由因为$|K|=2 \neq 0$ 说明$R(K)=3$

若$A$为$n$阶子式

• 当$|A| \neq 0$时，$R(A) = n$
• 当$|A| = 0$时，$R(A) < n$

说明方程$Kx=0$只有一个解，就是零解

$x=0$

即

只有$x_1,x_2,x_3$ 全为0时，式子$x_1b_1 + x_2b_2 + x_3b_3=0$才成立，说明$b_1,b_2,b_3$线性无关

证法二

记作

$B=AK$

还可以写作

$B=EAK$

因为$|K| = 2 \neq 0$ 得到$K$可逆

又因为$E、K（E是单位阵）$均可逆

所以

$A \sim B$

$A \sim B$的充分必要条件是存在m阶可逆矩阵P、n阶可逆矩阵Q，使得PAQ=B

所以

$R(A)=R(B)$

上一章定理2：若$A \sim B$，则有$R(A)=R(B)$

因为

$R(A)=3$

所以

$R(B)=3$

由定理4可知 $B$线性无关

定理5

（1）若向量组$A:a_1,...a_m$线性相关，则向量组$B:a_1,...a_m,a_{m+1}$也线性相关。反言之，若向量组$B$线性无关，则向量组$A$也线性无关

证明：向量组$A:a_1,...a_m$线性相关，则向量组$B:a_1,...a_m,a_{m+1}$也线性相关

设$A=(a_1,...,a_m)，B=(a_1,...,a_m,a_{m+1})$

很明显有

$R(B) \leq R(A)+1$

由$A$线性相关 得

$R(A) < m$

所以

$R(B) < m + 1$

说明$B$一定线性相关

证明：向量组$B$线性无关，则向量组$A$也线性无关

若$B$线性无关 则有

$R(B)=m+1$

因为$R(B) \leq R(A)+1$ 得到

$R(A) \geq R(B) -1=(m+1)-1=m$

即

$R(A)\geq m$

因为$A=a_1,...,a_m$ 得

$R(A) \leq m$

综上 有

$R(A)=m$

所以 $A$线性无关

（2）$m$个$n$维向量组成的向量组，当维数$n$小于向量个数$m$时一定线性相关。特别地，$n+1$个$n$维向量一定线性相关

证明：

设$A=(a_1,a_2,...,a_m)$ 很明显有

$R(A) \leq m$

又因为$a_i(i \in [1,m])$为$n$维列向量 有

$R(A) \leq n$

因为$n < m$ 则一定有

$R(A) < m$

所以$A$一定是线性相关

当$m=n+1$依然满足$n<m=n+1$这个条件，所以$n+1$个$n$维向量一定线性相关

（3）设向量组$A:a_1,a_2,....,a_m$线性无关，而向量组$B:a_1,...,a_m$，$b$线性相关，则向量$b$必定能由向量组$A$线性表示，且表示式是惟一的

证明：

记$A=(a_1,a_2,...,a_m)，B=(a_1,a_2,...,a_m,b)$ 有

$R(A) \leq R(B)$

因为$A$线性无关 、$B$线性相关 所以

$R(A)=m、R(B) < m+1$

综上有

$m \leq R(B) < m+1$

得到

$R(B)=m=R(A)$

在方程组$Ax=b$中

因为$R(A)=R(B)=R(A,b)$

说明该方程组有惟一解

即向量b可以由向量$A$线性表示，且是惟一的

结语

说明：

• 参考于 课本《线性代数》第五版 同济大学数学系编
• 配合书中概念讲解 结合了自己的一些理解及思考

文章仅作为学习笔记，记录从0到1的一个过程

希望对您有所帮助，如有错误欢迎小伙伴指正～

我是 海轰ଘ(੭ˊᵕˋ)੭

如果您觉得写得可以的话，请点个赞吧

谢谢支持 ❤️