机器学习-线性代数-齐次线性方程解集可视化

397 阅读2分钟

介绍

线性方程组如果写做 Ax=0 的形式 , A为 m*n 的矩阵, 0是 R^{m} 的向量(就是有m个分量为0的向量). 如果 X 向量都为0( x 称为0向量), 就可以得到结果,这个称为平凡解, 用平实的语言描述就是所有的向量都没有出力,所以得到的向量在空间中没有移动. 平凡解 存在的意义是说明矩阵 A 中的所有向量方向都不同.这一点是理解齐次方程的关键. 如果矩阵 A 中有向量方向相同是什么情况? 这就是平凡解的情况. 参见线性代数及其应用p56的例1.

示例

线性方程组的增广矩阵简化为阶梯型,由于矩阵每个向量有三个分量,所以解集是在三维空间中, 可以利用立体几何来可视化.

解集分解形式

注意矩阵的第一列和第三列

如果在三维坐标系中画出这两个向量, 除了大小不同外, 两个向量的方向是一样的. 并且一个假设为在 x 轴上向右,另一个向量则是在 x 轴上向左, 组合两个向量的系数就可以得到0向量. 第二列的向量我们让它成为0. 解集的形式为 \begin{bmatrix}x_{1}\\ 0\\ x_{3}
\end{bmatrix}

如果用文字描述就是第一列向量在 x 轴上向右移动, 第三列向量向左移动, 怎么得到回到原点的组合形式

结果:

\because     3x_{1}+4x_{3}=0
\therefore  x_{1}=\frac{4}{3}x_{4}

一旦确定了一个 x_{3} 就可以得到 非平凡解,只要第一列向量的大小是 第三列向量的 \frac{4}{3} 倍,就两个向量组合就可以得到0向量

x_{3}\begin{bmatrix}\frac{4}{3}\\ 0\\ 1
\end{bmatrix}

如果另一个坐标系(注意这里的用词)中在坐标系中画出 平凡解的,就是通过 向量 \begin{bmatrix}\frac{4}{3}\\ 0\\ 1
\end{bmatrix} 的一条直线.

结论

这里先不在0空间等问题上纠结. 主要解决的问题是怎么才能获得 ‌非平凡解. 上述示例是一个最简单的 ‌非平凡解的形式. 对于上面的例题,用文字和几何描述就是矩阵中至少有两个向量方向是相同的(大小可以不同,因为可以通过 x 向量的分量进行组合). 在三维空间画出矩阵的向量能很好的解释这个问题. 对于高维空间的问题可以借鉴这个解决方式.

线性相关的核心用向量形式描述就是:矩阵中是否有向量方向相同,有方向相同的向量一定存在线性相关 . 线性相关不仅仅是的线性方程组有非平凡解,同时也使得方程组的解集多样化