线性规划之对偶问题问题中等号变大于等于号的理解

2020-03-04 546 阅读1分钟

一、对称形式的对偶

原问题：

\min \quad \boldsymbol {cx} \qquad \\
s.t. \quad A \boldsymbol {x \geq b},\\
\qquad \boldsymbol {x \geq 0},\tag {1.1} \\

其中， $A$ 为 $m \times n$ 矩阵， $\boldsymbol x$ 为 $n \times 1$ 列向量， $\boldsymbol b$ 为 $m \times 1$ 维列向量， $\boldsymbol c$ 为 $1 \times n$ 行向量。由公式（1.1）中

A \boldsymbol {x \geq b} \\

存在 $\boldsymbol {w \geq 0}$ （ $1 \times m$ ）行向量使得

\boldsymbol{c \geq w A} \tag {1.2}

两边同乘 $\boldsymbol x$ ，得

\boldsymbol{cx \geq w A x \geq w b} \\ \tag {1.3}

从公式（1.3）可以得出 $\boldsymbol{cx}$ 恒大于 $\boldsymbol{wb}$ ，也可以这样理解， $\boldsymbol{cx}$ 的最小值也大于等于 $\boldsymbol{wb}$ 的最大值。 综合公式（1.2）和公式（1.3），可以得到一个线性规划问题：

\max \quad \boldsymbol {wb} \qquad \quad\\
s.t. \quad \boldsymbol {wA \leq c},\\
\boldsymbol {w \geq 0} \tag{1.4}

我们比较公式（1.1）和公式（1.4），他们有一种对偶的感觉，我们称公式（1.4）为原问题公式（1.1）的对偶问题。

二、化等号为大于等于号

求对偶问题中，约束条件需要化“ $\leq$ ”为“ $\geq$ ”时，这个比较简单，只需两端同乘与 $-1$ 即可；但有时约束条件是“ $=$ ”，我们如何把“ $=$ ”化为 $\geq$ ？
我们考虑具有等式约束的线性规划问题：

\min \quad \boldsymbol {cx} \qquad \\
s.t. \quad A \boldsymbol {x = b},\\
\qquad \boldsymbol {x \geq 0},\tag {2.1} \\

把公式（2.1）化为等价形式：

\min \quad \boldsymbol {cx} \qquad \\
s.t. \quad A \boldsymbol {x \geq b},\\
\qquad -A \boldsymbol {x \geq -b},\\
\qquad \boldsymbol {x \geq 0},\tag {2.2} \\

合并公式（2.2）的约束：

\min \quad \boldsymbol {cx} \qquad \\
s.t. \quad

\left[
\begin {matrix}
A\\
-A
\end {matrix}
\right]

\boldsymbol {x \geq }

\left[
\begin {matrix}
\boldsymbol b\\
\boldsymbol {-b}
\end {matrix}
\right]
,\\
\qquad \boldsymbol {x \geq 0},\tag {2.3} \\

根据公式（1.4）我们可以得到：

\max \quad \boldsymbol {w

\left[
\begin {matrix}
\boldsymbol b\\
\boldsymbol {-b}
\end {matrix}
\right]

} \qquad \quad\\
s.t. \quad \boldsymbol {w

\left[
\begin {matrix}
A\\
-A
\end {matrix}
\right]

\leq c},\\
\boldsymbol {w \geq 0} \tag{2.4}

此时 $\boldsymbol w$ 是 $1 \times 2m$ 行向量，我们对 $\boldsymbol w$ 中间分块： $\boldsymbol{ w = [w_1 , w_2]}$ ，所以公式（2.4）可以化为：

\max \quad \boldsymbol {w_1b - w_2b} \qquad \quad\\
s.t. \quad \boldsymbol {w_1A - w_2A \leq c},\\
\boldsymbol {w_1 \geq 0,w_2 \geq 0} \tag{2.5}

我们可以换一种写法，令

\left[
\begin {matrix}
\boldsymbol b\\
\boldsymbol {-b}
\end {matrix}
\right]
=
\boldsymbol {\bar {b}},\quad

\left[
\begin {matrix}
A\\
-A
\end {matrix}
\right]
=
\bar {A}

那么公式（2.4）可以化为：

\max \quad \boldsymbol {w \bar b} \qquad \quad\\
s.t. \quad \boldsymbol {w \bar A \leq c},\\
\boldsymbol {w \geq 0} \tag{2.6}

其中 $\boldsymbol {\bar b}$ 为 $2m \times 1$ 列向量， $\bar A$ 为 $2m \times n$ 矩阵，其他不变。
我们再换一种写法，令

\boldsymbol {w_ 1-w_ 2 = \bar w}

那么公式（2.5）可以化为：

\max \quad \boldsymbol {\bar w b} \qquad \quad\\
s.t. \quad \boldsymbol {\bar wA \leq c}\\

这时化为了与公式（1.4）相同的形式。这里 $\boldsymbol {\bar w}$ 没有了非负限制。