凸优化

153 阅读1分钟

凸优化不挂day2

凸集

集合C内任意两点连成的线段仍然在C内则C为凸集,等价于x1,x2C,θ[0,1],有 θx1+(1θ)x2C仿射集一定是凸集集合C内任意两点连成的线段仍然在C内则C为凸集,等价于\\ \forall x_1,x_2 \in C,\forall \theta \in [0,1],有 \ \theta x_1+(1-\theta)x_2 \in C\\ 仿射集一定是凸集

凸组合

与仿射组合类似C为凸集,x1,x2,x3,,,xkC,θ1,θ2,θ3,,,,θk0,i=1kθi=1i=1kθixiC,i=1kθixi为凸组合同时若满足上述条件可推出C为凸集与仿射组合类似\\C为凸集,x_1,x_2,x_3,,,x_k \in C,\theta_1,\theta_2,\theta_3,,,,\theta_k\geq0,\sum_{i=1}^k\theta_i=1\\且 \sum_{i=1}^k\theta_ix_i \in C,则\sum_{i=1}^k\theta_ix_i为凸组合\\同时若满足上述条件可推出C为凸集

凸包

与仿射包类似CR,convC={i=1kθixiθk[0,1],xkC,i=1kθi=1}凸包为包含C的最小凸集与仿射包类似\\\forall C\in R,conv C=\lbrace\sum_{i=1}^k\theta_ix_i|\theta_k\in [0,1],x_k\in C,\sum_{i=1}^k\theta_i=1\rbrace\\ 凸包为包含C的最小凸集

xC,θ0,θxC必过原点\forall x \in C,\theta \geq0,且\theta x \in C\\ 必过原点

凸锥

x1,x2C,θ1,θ20θ1x1+θ2x2C\forall x_1,x_2 \in C,\theta_1,\theta_2 \geq0且\theta_1x_1+\theta_2x_2 \in C

凸锥组合

与凸组合类似x1,x2,x3,,xkC,θk0,凸锥组合即i=1kθixi与凸组合类似\\ \forall x_1,x_2,x_3,,x_k \in C,\theta_k\geq0,\\ 凸锥组合即\sum_{i=1}^k\theta_ix_i

凸锥包

把任意集合C利用凸锥组合的方法形成新的凸锥集合conic C={i=1kθixix1,x2,x3,,xkC,θk0}把任意集合C利用凸锥组合的方法形成新的凸锥集合\\ conic \ C=\lbrace \sum_{i=1}^k\theta_ix_i|x_1,x_2,x_3,,x_k \in C,\theta_k\geq0\rbrace

超平面

超平面是指n维线性空间中维度为n1的子空间,它可以把线性空间分割成不相交的两部分,比如二维空间中,一条直线是一维的,它把平面分成了两块,三维空间中,一个平面是二维的,它把空间分成了两块{xaTx=b,aRn,a0}(aTa的转置,这里相乘为向量内积)aTx0=baT(xx0)=0,aT(xx0)正交(垂直),n=2情况下为直线即既是仿射集又是凸集,当过原点时也是凸锥证明超平面为凸集:C为超平面,x1x2CaTx1=b,aTx2=bθ(θx1+(1θ)x2)aT=(θb+bθb)=b所以得证超平面是指n维线性空间中维度为n-1的子空间,它可以把线性空间分割成不相交的两部分,比如二维空间中,一条直线是一维的,它把平面分成了两块,三维空间中,一个平面是二维的,它把空间分成了两块\\ \lbrace x|a^Tx=b,a\in R^n,a\not=0\rbrace(a^T为a的转置,这里相乘为向量内积)\\ a^Tx_0=b\Rightarrow a^T(x-x_0)=0,a^T与(x-x_0)正交(垂直),n=2情况下为直线即既是仿射集又是凸集,当过原点时也是凸锥\\ 证明超平面为凸集:\\ 设C为超平面,x_1,x_2 \in C \Rightarrow a^Tx_1=b,a^Tx_2=b 设\theta\\(\theta x_1+(1-\theta)x_2)a^T=(\theta b+b-\theta b)=b 所以得证

半空间

{xaTxb,aRn,a0}与法向量反向证明半空间是凸锥:C为半空间,x1x2CaTx1b,aTx2bθ[0,1](θx1+(1θ)x2)aT=aTx2(θ1)+aTx1θ[0,1],aTx2(θ1)<=0,aTx1b所以得证\lbrace x|a^Tx \leq b,a\in R^n,a\not=0\rbrace\\ 与法向量反向\\ 证明半空间是凸锥:\\ 设C为半空间,x_1,x_2 \in C \Rightarrow a^Tx_1\leq b,a^Tx_2\leq b 设\theta \in[0,1]\\(\theta x_1+(1-\theta)x_2)a^T=a^Tx_2(\theta-1)+a^Tx_1\\\theta \in [0,1],a^Tx_2(\theta-1)<=0,a^Tx_1\leq b 所以得证