1. 引言

前文提到，贝叶斯网络最大的特点就是能够人为指定各个因素的影响方向，但是实际生活中并非如此，生活中的变量更多是相互影响的，因此，便有了无向图上的图模型——无向图模型，又叫马尔可夫网。不过在认识马尔可夫网之前，需要了解一下下面几个概念。

2. 参数化

2.1 示例

目前有四个学生a、b、c、d。a只跟b、d玩，b跟a、c玩，c只跟b、d玩，d只跟a、c玩。此时大家同时对一个解法的正确性产生了不同的见解，都试图想要说服对方。0代表同意，1代表否定，degree代表同意或者否定的程度，越大表示程度越强。关系网如下如所示：

只看a、b，可以发现二人勉强能统一意见；
只看b、c，二者基本上能够统一意见；
只看c、d，二者存在很大的分歧；
只看a、d，二者基本上能够统一意见。

由于四个人的关系a不跟c玩，b不跟d玩，很难综合考虑四个人的意见，仿佛中了诅咒，那么，怎么才能打破这个诅咒呢？

于是上帝出手制定了如下规则：

rule 1：

把几个人之间的同意或者否定的程度定义为一个因子，用 $\phi$ 表示，考虑了几个人的态度就把这几个人放到一起，用 $Scope[\phi]$ 表示。例如， $\phi_1[a,b]$ 表示考虑了a、b的意见。

rule 2：

当考虑3个人时(以 $a^i,b^i,c^i$ )为例，必须按照一下的规则计算。 $i=0、1$ ， $a^i$ 代表 $a$ 的状态。

P(a,b,c)=\phi_1(a,b)*\phi_2(b,c)*\phi_3(c,a)

当考虑4个人时，必须按照一下的规则计算。

P(a,b,c,d)=\phi_1(a,b)*\phi_2(b,c)*\phi_3(c,d)*\phi_4(d,a)

rule 3：

考虑完所有人的意见之后，需要将其归一化。

根据上述三条规则:

若四个人都同意该解法 $a^0,b^0,c^0,d^0$ ，则有： $P(a^0,b^0,c^0,d^0)=\phi_1(a^0,b^0)*\phi_2(b^0,c^0)*\phi_3(c^0,d^0)*\phi_4(d^0,a^0)=30*100*1*100=300000$ ;
若四个人状态为: $a^1,b^1,c^0,d^1$ ，则有： $P(a^1,b^1,c^0,d^1)=\phi_1(a^1,b^1)*\phi_2(b^1,c^0)*\phi_3(c^0,d^1)*\phi_4(d^1,a^1)=10*1*100*1*100=100000$ 以此类推。

最后考虑完所有的人意见后，需要进行归一化处理

Z= \sum_{a,b,c,d}\phi_1(a,b)·\phi_2(b,c)·\phi_3(c,d)·\phi_4(d,a)

，即每个概率除以其加和，于是有：

此时再看AB的意见，已经变成了：

由此可见，在考虑了四个人的大背景下，其实a、b两个人的意见是相左的。

2.2 因子

在2.1节中，把几个重要的概念定义一下：

a,b,c,d就是变量的集合 $D$ ；
a,b,c,d每个人的态度叫做 $Val(D)$
能够将不同人的意见联系起来的东西，叫因子，它能够把程度变成一个量化的数字；
某个因子中考虑的人称为该因子的辖域。

概念：

假定 $D$ 表示随机变量的集合，因子 $\phi$ 定义为从 $Val(D)$ 映射到实数域 $R$ 的一个函数，假如因子中所有的值均为非负，则该因子为非负的。
变量集 $D$ 称为因子的辖域，记为 $Scope[\phi]$ 。
分配函数，用作归一化。
因子的操作：令 $X,Y,Z$ 是三个不相交的变量集，且令 $\phi_1(X,Y)$ 和 $\phi_2(Y,Z)$ 是两个因子，定义其乘积为新的因子 $\Phi(X,Y,Z)$ 。

2.2.1 因子的实际意义

利用该分布回答查询，例如在a,b,c上求和，可以得出 $P(b^1)=0.7323, P(b^0)=0.268$ ，其意义为：B同学有26%的几率同意，如果我们知道c同学同意的情况下( $c^0$ )，那么 $P(b^1|c^0)=0.06$

注意：

2.2.2 打破诅咒的方法

从下图右侧可以看出，b与c，c与d，d与a的联系性最强，而ab之间稍弱，因此，若要打破这个无向图，需要从ab之间的关系下手。

3. 吉布斯分布

3.1 吉布斯分布定义

假如分布 $P_{\Phi}$ 定义如下：

P_{\Phi}(X_1,...,X_n)=\frac{1}{Z}\widetilde{P}_{\Phi}(X_1,...,X_n)

其中

\widetilde{P}(X_1,...,X_n)=\phi_1(D_1)·...·\phi_m(D_m)

且

Z= \sum_{X_1,..,X_n}\widetilde{P}_{\Phi}(X_1,...,X_n)

分布 $P_{\Phi}$ 就称为吉布斯分布。

4 无向图模型(马尔可夫网)

4.1 定义

马尔可夫网需要满足的条件：

无向图
无向图中每个节点表示一个或者一组势函数，也就是我们前文提到的“因子”。

4.2 团

马大爷说：这些因子各自抱团，于是就有了团的概念。~~当然是我瞎说的。~~

在无向图中任何两个结点均有边连接的结点子集称为团，例如，在下图中，假设有随机变量 $X_1,X_2,X_3,X_4$ ，则 $\left \{X_1,X_2 \right \}$ 构成了一个团， $\left \{X_1,X_4 \right \}$ 未构成团。

此时，再往团中加入任意一个结点，若集合不满足成团的条件，则称加入结点之前的团为最大团。如，往集合 $\left \{X_1,X_2 \right \}$ 中加入 $X_3$ ， $X_1,X_2,X_3$ 三个点之间均有边连接，依然满足成团的条件，但是若继续加入结点 $X_4$ ，由于 $X_1$ 不与 $X_4$ 相连，故而 $\left \{X_1,X_2,X_3 \right \}$ 为最大团。