2 内积空间

Dingyuan
102 阅读2分钟

内积空间

把内积推广到一般线性空间

定义

在一般的线性空间的基础上，再增加如下4条

  • ∀θ≠α∈V,⟨α,α⟩>0\forall \theta \ne \alpha \in V, \langle\alpha, \alpha\rangle > 0
  • α,β,γ∈V,⟨α+β,γ⟩=⟨α,γ⟩+⟨β,γ⟩\alpha, \beta, \gamma \in V, \langle\alpha + \beta, \gamma\rangle = \langle\alpha, \gamma\rangle + \langle\beta, \gamma\rangle
  • α,β∈V,k∈F,⟨kα,β⟩=k⟨α,β⟩\alpha, \beta \in V, k\in F, \langle k \alpha, \beta \rangle = k \langle \alpha, \beta \rangle
  • ⟨α,β⟩=⟨β,α⟩ˉ\langle \alpha, \beta \rangle = \bar{\langle \beta, \alpha\rangle}

如果数域FF是实数，欧氏空间，是复数，酉空间

性质

  • ⟨α,β+γ⟩=⟨α,β⟩+⟨α,γ⟩\langle \alpha, \beta + \gamma \rangle = \langle \alpha, \beta \rangle + \langle \alpha, \gamma \rangle
  • ⟨α,kβ⟩=kˉ⟨α,β⟩\langle \alpha, k \beta \rangle = \bar{k} \langle \alpha, \beta \rangle
  • ⟨∑ikiαi,∑jljβj⟩=∑i∑jkilj⟨αi,βj⟩\langle \sum_i k_i \alpha_i, \sum_j l_j \beta_j \rangle=\sum_i \sum_j k_i l_j \langle \alpha_i, \beta_j\rangle
  • 上面的性质，如果是基向量的线性组合，那么可以得到⟨α,β⟩=XTAYˉ\langle \alpha, \beta \rangle=X^TA\bar{Y}，其中X和Y是α,β\alpha, \beta在基下的坐标。A为度量矩阵{⟨ϵi,ϵj⟩}n×n\{\langle \epsilon_i, \epsilon_j\rangle\}_{n\times n}

不等式

C-B不等式

∣⟨α,β⟩∣≤∣∣α∣∣∣∣β∣∣|\langle \alpha, \beta \rangle| \le ||\alpha||||\beta|| 等号成立⇔\Leftrightarrow 两向量线性相关

三角不等式

∣∣α∣∣+∣∣β∣∣≥∣∣α+β∣∣||\alpha|| + ||\beta|| \ge ||\alpha + \beta||

距离定义、正交性

d(α,β)=∣∣α−β∣∣d(\alpha, \beta)=||\alpha - \beta||

正交性定义：内积为0

标准正交基

两两正交的单位向量组，还是一组基

标准正交基带来的便利性，度量矩阵就是单位阵，所以在这类基下两个向量的内积恰好就是坐标相乘YHXY^HX。

Schmidt正交化

  • step1 先找到一组线性无关的向量α1,...αs\alpha_1, ... \alpha_s
  • step2 正交化：β1=α1\beta_1 = \alpha_1
    β2=α2−kβ1\beta_2 = \alpha_2 - k \beta_1 令他与β1\beta_1正交，求出k。
    β3=α3−k1β1−k2β2\beta_3 = \alpha_3 - k_1 \beta_1 - k_2 \beta_2 令他与之前的两个正交，求出两个k。以此类推。
  • step3 单位化：各自除以模长

酉矩阵

关心标准正交基之间的关系
定义：AHA=IA^HA=I 判定（等价）方法：

  • A−1=AHA^{-1}=A^H
  • AA的行/列向量组是标准正交基

性质：A,BA,B是同阶酉矩阵，ABAB也是酉矩阵

定理：

  • αi\alpha_i是一组标准正交基，γi=αiU\gamma_i = \alpha_i U，γi\gamma_i是标准正交基⇔U\Leftrightarrow U是酉矩阵
  • 子空间的标准正交基可以被扩充成全空间的标准正交基。

正交补空间

向量和子空间的正交：向量和子空间的任意向量正交

子空间正交：两个子空间的任意两个向量正交

定理：一个向量正交于子空间的基⇔\Leftrightarrow正交于整个子空间

定义

WW是VV的子空间，则WW的正交补空间为 W⊥={α∈V∣α⊥W}W^{\perp}=\{\alpha \in V|\alpha \perp W\}

性质定理

  • V=W⊕W⊥V = W \oplus W^{\perp}

    证明：先证明是直和，显然交是{θ}\{\theta\}
    再证明 能够组合成VV。思路：证明两个子空间的基能够组成VV的基。假设VV里一共nn个向量构成标准正交基，前rr个在WW里，那么由于正交性，剩下的一定在补空间里。

  • 如果V=W⊕UV = W \oplus U且W⊥UW\perp U，则U=W⊥U=W^{\perp}

应用

应用1：求R(A)和K(A)的正交补空间。

设映射的矩阵为AA，原空间的基为e1,..,ene_1, .., e_n

那么值域其实就是由AA的列向量构成的空间。

那么R(A)的正交补空间的元素满足η⊥R(A)\eta \perp R(A)，αjHη=0\alpha_j^H \eta =0

所以补空间满足 AHη=0A^H \eta = 0，即共轭转置的核子空间。 R(A)⊥=K(AH)R(A)^\perp = K(A^H)

对K(A)K(A)的正交补空间，直接用上面的结论一代换，可以得到K(A)⊥=R(AH)K(A)^\perp = R(A^H)

应用2：最小二乘解

对方程组Ax=bAx=b，找一个x0x_0，使得min⁡∣∣b−Ax0∣∣\min ||b - Ax_0|| 对于AA这个映射，他的值域R(A)R(A)，试图找到其中和bb最接近的b′b'，

即b′−b⊥R(A)b' - b \perp R(A)，（正投影）

即b′−b∈(R(A))⊥b' - b \in (R(A))^\perp，

即b′−b∈K(AH)b' - b \in K(A^H)，

即AH(b′−b)=θA^H(b' - b)=\theta。

所以有AHb′=AHbA^Hb'=A^Hb。又因为b′∈R(A)b' \in R(A)的，所以存在x0x_0使得b′=Ax0b' = Ax_0。

所以AHAx0=AHbA^HAx_0=A^Hb

等距变换

线性变换后的内积不变，则是等距变换。 在实数域上叫正交变换，复数域叫酉变换。

等价条件

长度不变、内积不变、标准正交基变成标准正交基、f在标准正交基下是酉矩阵。

avatar
文章
阅读
粉丝