本文已参与「新人创作礼」活动，一起开启掘金创作之路。

形式化验证

• 为什么需要形式化验证?
  • 因为这种证明方法可以在理论上寻找到程序中的错误，而这些错误可能不可复现、无法被测试所覆盖、或者只会发生一次等，比如1994年奔腾芯片的FDIV错误，除法运算会发生某种偏差，这个问题是在90亿次除法运算中才可能出现1次错误，或者一些其他的著名BUG：原来曾有过这么多BUG！哪个CPU最严重。我们没用办法通过简单的测试来找到这些BUG，但通过形式化的验证却可以找到哪里可能存在问题。
• 形式化验证的三个部分：
  • 用于系统建模的框架
  • 用于描述待验证性质的规范语言
  • 用来确定系统描述是否满足规范的验证方法
• 根据证明的依据对形式化验证的分类
  • 基于证明的处理中：系统描述一组公式$\Gamma$，他的规范是另一个公式$\phi$，验证的方法就是试图找到$\Gamma \vdash \phi$的证明。
  • 基于模型的处理中（本节笔记重点）：系统由适当逻辑的模型$\mathcal{M}$表示，规范也是另一个公式$\phi$表示，验证方法则是由计算模型$\mathcal{M}$是否满足$\phi$构成（写作$\mathcal{M} \models \phi$）。
• 根据验证的完全程度对形式化验证的分类
  • 性质验证：规范描述系统的单一性质。
  • 完全验证：规范描述的系统的全部性质。

模型检测（Model Checking）

• 时态逻辑（Temporal Logic）
  • 思想：在一个模型中，公式的真与假不是静态的，而在命题逻辑或谓词逻辑中的确如此。
  • 含义：时态逻辑的模型包含若干状态，而一个公式可以在某些状态下为真，在其他状态下为假。公式可以随系统的状态演化而改变其真值。
• 模型检测：模型检测是一种自动的、基于模型的、性质验证的处理方法。
  • 模型检测也是基于时态逻辑的，在模型检测中，模型$\mathcal{M}$是迁移系统，性质$\phi$是是时态逻辑公式，为了验证一个系统满足一个性质，需要三步操作：
    • 使用模型检测器的描述性语言对系统进行建模，得到一个模型$\mathcal{M}$
    • 使用模型检测器的规范语言对性质进行编码，禅师一个时态逻辑公式$\phi$
    • 以$\mathcal{M}$和$\phi$做输入，运行模型检测器

  如果模型检测器$\mathcal{M} \models \phi$的结果为假（或者no、false），大多数模型检测器会产生导致失败的系统行为轨迹，我们称这一操作为之为逆向追踪

  • 模型检测就是对问题$\mathcal{M},s \models \phi$是否成立计算答案的过程，此处的$\phi$是时态逻辑的一个公式，$\mathcal{M}$是所考虑的一个适当模型，$s$是该模型的一个状态，$\models$是满足关系。

线性时态逻辑（Linear-time Temporal Logic，简写为LTL）

• 定义：一种能表达时间概念的特殊时态逻辑。它将时间轴看成一个线性的状态序列，可以无限延伸到未来。常用来精确表示模型的动态语义。
  • 计算路径（简称为路径）：模型里的状态序列。因为未来是不确定的，有无数种可能，在模型中表示有无数条路径，代表未来不同的可能，任何一条路径都可能会是一条实际的路径（每一条路径都有可能发生，但只有一条路径会真正发生）。
  • 命题原子公式：原子公式用$p,q,r,p_1,q_1,r_1...$等符号表示，这些原子代表系统可能成立的事实，比如“打印机正在打印”，“进程1220被挂起”，或者“程序计数器上的值为6”。
  • 原子集合：表示系统可能成立的全部事实，用$Atoms$表示，比如$p,q$的所有组合：$Atoms = \{\varnothing,\{p\},\{q\},\{p,q\}\}$

LTL语法

$\phi ::= \perp | \top | p| (\neg \phi) | (\phi \wedge \phi)| (\phi \vee\phi)| (\phi \to \phi) | (X \phi)| (F \phi)| (G \phi)| (\phi U \phi)| (\phi W \phi)| (\phi R \phi)$

上述公式表示，如果$\phi$是LTL公式，则$\neg \phi, (\phi \wedge \phi), (G \phi) \cdots$也是LTL公式，同时$\perp | \top | p$也是LTL公式。其中，$p$是取自原子集合$Atoms$的任意命题原子

• 时态连接词：

  • 一元时态连接词：
    • $X$：下一个状态。
    • $F$：某未来状态。
    • $G$：所有未来状态。
  • 二元时态连接词：
    • $U$：直到。
    • $R$：释放。
    • $W$：弱-直到。

• 时态连接词的含义：

  • 原子命题$p$表示路径$\pi$中第一个原子命题是$p$

  • $Xp$表示路径$\pi$中第二个原子命题是$p$

  • $Gp$表示路径$\pi$中每一个原子命题都是$p$

  • $pUq$表示对于路径$\pi:s_0 \to s_1 \to \cdots$中，假设原子命题$p$在且只在$s_3,s_4,s_5,s_6,s_7,s_8$状态点满足，原子命题$q$只在$s_9$状态点满足。则如果$i$的值为$0,1,2$，$\pi^i \nvDash pUq$（因为这个时候的开始点没有$p$）；如果$i$的值为$3,4,5,6,7,8,9$，则$\pi^i \vDash pUq$。

  • $pRq$ $q$必须保持为真，直到$p$为真的时刻 或者 如果$p$为真的时刻不存在，则$q$一直为真

  $R$是$U$的对偶，即$\phi R \psi$等价于$\neg (\neg \phi U \neg \psi)$

• LTL公式范例：$(F(p \to (G \ r)) \vee ((\neg q) U \ p ))$ 语法树：

  在我们书写LTL公式时，在不引起歧义的前提下，很多括号可以省略，比如$(p \to (F \ q))$可以无歧义地简写为$p \to F \ q$

• 语法优先级从高到低：

  • 一元时态连接词：$\neg,X,F,G$
  • 二元时态连接词：$U,R,W$
  • $\vee,\wedge$
  • $\to$

LTL语义

• 迁移系统：$\mathcal{M}=\{S,\to,L\}$，$S$是一个状态集合；$\to$是迁移关系（这个迁移关系表示$S$上的二元关系），使得每个属于$S$的$s$中（也就是$s \in S$），有某个$s'$满足$s \to s'$（这个$s' \in S$）；标记函数$L \to \mathcal{P}(Atoms)$

  • 迁移系统简称为模型 ，一个模型有状态集$S$，关系$\to$（描述的是系统如何从一个状态转向另一个状态），以及每个状态$s$伴随有原子命题的集合$L(s)$。我们用$\mathcal{P}(Atoms)$表示$Atoms$的幂集，也叫做原子描述集。
  • 幂集范例：对于状态集$S = \{p,q\}$，则他的幂集$\mathcal{P}(Atoms)=\{\varnothing,\{p\},\{q\},\{p,q\}\}$
  • 用有向图表示一个有限迁移系统$\mathcal{M}$的所有信息，图的结点包含了在该状态下为真的所有原子命题。
    • 模型范例：$\mathcal{M}$有三个状态$s_0,s_1,s_2$，状态之间仅有的可能迁移是$s_0 \to s_1,s_0 \to s_2,s_1 \to s_0,s_1 \to s_2,s_2 \to s_2$，若$L(s_0)=\{p,q\},L(s_1)=\{q,r\},L(s_2)=\{r\}$，则将模型的信息浓缩到状态图中为：

  在上述状态图中，状态$r$是一个死锁状态，他的下一个状态永远只能是自身

• 无限路径：模型$\mathcal{M}=\{S,\to,L\}$中的一条路径是$S$中状态的无限序列$s_1,s_2,s_3,\cdots$，对每个$i \geqslant 1$，都有$s_i \to s_{i+1}$，则我们可以将该路径写为$\pi = s_1 \to s_2 \to s_3 \to \cdots$，我们用$\pi^i$表示从第$i$个状态开始的后缀，比如$\pi^3=s_3\to s_4 \to \cdots$

  • 将上面的模型范例里的系统展开成一个从特定状态开始的所有计算路径的无限树为：

• 设$\mathcal{M}=\{S,\to,L\}$是一个模型，$\pi = s_1 \to s_2 \to s_3 \to \cdots$是$\mathcal{M}$中地一条路径，路径$\pi$与LTL公式满足关系定义如下：

  • $\pi \vDash \top$
  • $\pi \nvDash \perp$

    $\top$表示总为真的事实，$\perp$表示总为假的事实

  • $\pi \vDash p$当且仅当$p \in L(s_1)$
  • $\pi \vDash \phi_1 \wedge \phi_2$当且仅当$\pi \vDash \phi_1$且$\pi \vDash \phi_2$
  • $\pi \vDash \phi_1 \vee \phi_2$当且仅当$\pi \vDash \phi_1$或$\pi \vDash \phi_2$
  • $\pi \vDash \phi_1 \to \phi_2$当且仅当只要$\pi \vDash \phi_1$就有$\pi \vDash \phi_2$
  • $\pi \vDash X \ \phi$当且仅当$\pi^2 \vDash \phi$

    • $\pi \vDash X \ \phi$表示路径从第二个状态开始满足LTL公式$\phi$
    • $\phi$是原子集内的某个原子命题，也是一个LTL公式，在路径中也叫做状态；$X \ \phi$表示这个原子命题的下一个状态；$\pi^2$表示从路径$\pi$上的第二个状态开始的路径

  • $\pi \vDash G \ \phi$当且仅当对所有$i\geqslant 1,\pi^i \vDash \phi$
  • $\pi \vDash F \ \phi$当且仅存在某个$i\geqslant 1$使得$,\pi^i \vDash \phi$
  • $\pi \vDash \phi \ U \psi$当且仅当存在某个$i\geqslant 1$，使得$\pi^i \vDash \psi$并且对所有$j=1,\cdots,i-1$，有$\pi^i\vDash \phi$
  • $\pi \vDash \phi \ W \psi$当且仅当存在某个$i\geqslant 1$，使得$\pi^i \vDash \psi$且对所有的$j=1,\cdots,i-1$，有$\pi^i\vDash \phi$，或者对所有$k \geqslant 1$，有$\pi^k\vDash \psi$
  • $\pi \vDash \phi \ R \ \psi$当且仅当或者存在某个$i\geqslant 1$，使得$\pi^i \vDash \psi$且对所有$j=1,\cdots,i$，有$\pi^i\vDash \psi$；或者对所有$k \geqslant 1$，有$\pi^k\vDash \psi$

    $\pi \vDash \phi \ R \ \psi$还可以表述为：当且仅当或者$\exists i ≥ 0$使得$\pi^i \vDash \phi$且对于每个$j ≤ i$都有$πj \vDash \psi$，或者对于所有的$k \geq 0$都有$\pi^k \vDash \psi$

• 状态满足公式：设$M = (S, \to, L)$是一个模型，$s \in S,\phi$是一个LTL公式，若对从$s$出发的每条路$\pi$都有$\pi \vDash \phi$，则称状态$s$满足$\phi$，记作$M, s \vDash \phi$，或$s \vDash \phi$

• 范例：

对于上面的Kripke结构，有如下结论：

• $s_0 \vDash (p \wedge q),\neg r,Xr$ $s_0$这个状态满足三个条件：
  • (p \wedge q):$$s_0状态上有原子命题$p$和$q$
  • \neg r:$$s_0状态上没有原子命题$r$
  • X r:$$s_0状态的下一个结点有原子命题$r$
• $s_0 \nvDash X(q \wedge r)$ $s_0$的下一个状态不一定满足包含原子命题$q$和$r$。因为$s_0$的下一个状态如果是$s_2$的话，只包含原子命题$r$而不包含原子命题$q$，如果$s_0$的下一个状态如果是$s_1$的话才包含原子命题$q$和$r$
• $s_0 \vDash G \neg(p \wedge r)$ $s_0$这个状态满足未来所有状态不同时包含原子命题$p$和$r$。因为$s_0$以后可能要迁移到$s_1$、$s_2$或迁移回$s_0$，而这三个状态均不同时包含原子命题$p$和$r$，所以$s_0$这个状态满足未来所有状态不同时包含原子命题$p$和$r$
• $s_2 \vDash G r$ $s_2$状态满足未来所有状态全部包含原子命题$r$
• $s \vDash F(\neg q \wedge r)\to FGr$ $s$状态满足，如果未来的状态不含原子命题$q$但包含原子命题$r$，则未来全部状态都包含原子命题$r$。因为不含原子命题$q$但包含原子命题$r$的状态只有$s_2$，$s_2$的下一个状态永远只能是$s_2$，$s_2$也只包含原子命题$r$，所以未来全部状态都包含原子命题$r$

语义等价

• 定义：设$\phi,\psi$是 LTL 公式, 若对于所有的模型$\mathcal{M}$以及$\mathcal{M}$中的所有的路$\pi$都有$\pi \vDash \psi$当且仅当$\pi \vDash \psi$，则称$\phi$与$\psi$是语义等价的, 记作$\phi \equiv \psi$
• 语义等价等价刻画：设$\phi,\psi$是 LTL 公式，它们是语义等价的，当且仅当若对于所有的模型$\mathcal{M}$以及$\mathcal{M}$中的所有的状态$s$都有$s \vDash \phi$当且仅当$s \vDash \psi$
• 等价性质：
  • 对偶性：
    • $G \phi \equiv \neg F \neg \phi$
    • $F \phi \equiv \neg G \neg \phi$
    • $\phi U \psi \equiv \neg (\neg \phi R \neg \psi)$
    • $\phi R \psi \equiv \neg (\neg \phi U \neg \psi)$
    • $X \phi \equiv \neg X \neg \phi$
  • 分配性：
    • $F(\phi \vee \psi) \equiv F \phi \vee F \psi$
    • $G(\phi \wedge \psi) \equiv F \phi \wedge F \psi$
• 连接词相互定义
  • $F \phi \equiv \top U \phi$
  • $G \phi \equiv \perp R \phi$
  • $\phi R \psi \equiv \psi U (\phi \wedge \psi) \vee G \psi$