5.3.1 Continuous inputs 公式5.49 5.50

推导公式 (5.49) 和 (5.50)

我们从图中的条件开始推导公式 (5.49) 和 (5.50)。根据图中的公式和描述，假设类条件密度为高斯分布，并且类别 $C_k$ 的条件概率密度 $p(x|C_k)$ 表达为：

然后我们通过贝叶斯公式计算后验概率 $p(C_k|x)$。这里讨论只有两类 $C_1$ 和 $C_2$ 的情况。两类的后验概率比值为：

取对数后，得到：

将 $p(x|C_1)$ 和 $p(x|C_2)$ 的高斯分布形式代入，计算对数：

展开二次型 $(x - \mu_k)^\top \Sigma^{-1} (x - \mu_k)$：

代入并整理：

取消 $x^\top \Sigma^{-1} x$ 项，合并剩余项：

结合 $\ln \frac{p(C_1)}{p(C_2)}$，我们定义权重向量 $\mathbf{w}$ 和偏置项 $w_0$：

于是后验概率可以写为逻辑斯谛函数形式：

其中 $\sigma(z) = \frac{1}{1 + \exp(-z)}$。这就得到了 (5.48)、(5.49) 和 (5.50)。