贝叶斯综述(5)

666 阅读7分钟

「这是我参与11月更文挑战的第17天,活动详情查看:2021最后一次更文挑战

image.png

简介

前四章主要是介绍了贝叶斯网络的结构、贝叶斯网络的分支以及详细的介绍了贝叶斯网络的结构学习和参数学习,并且将贝叶斯网络的分类,静态贝叶斯和动态贝叶斯的概念也介绍完毕。今天在这里主要是想给大家介绍一下贝叶斯网络在实际的工作和研究中的一些应用。

具体研究成果展示

《基于动态贝叶斯网络的智能工厂设备健康评估方法研究》

利用智能工厂生产线上实时采集的数据,对工厂数据进行特征提取,利用随机森林算法提取影响该工厂生产线产量的主要故障类型,构建动态贝叶斯网络,并进行设备健康评估。

随机森林算法:

随机森林是决策树的延伸方法之一,是一种由多颗决策树构成的集成学习算法。由于决策树存在易发生过拟合的现象,为了改善该缺点,随机森林的预测通过组合多个弱分类器,最终结果通过投票或取均值,使得整体模型的结果具有较高的精准度和泛化性能。

动态贝叶斯将时间维融入到贝叶斯网络中去,表示与时间关联性,最终形成了能够处理时序信息的动态概率推理模型。并且通过实验的分析,动态贝叶斯具有出众的学习能力,当输入样本足够多的时候,先验概率会越来越趋近真实分布。

《基于动态贝叶斯网络的变幅载荷下疲劳裂纹扩展预测方法》

以变幅载荷作用下的疲劳裂纹扩展为具体对象,利用统一疲劳寿命预测(UFLP)模型构建疲劳裂纹扩展的物理状态方程;分析疲劳裂纹扩展过程典型不确定因素之间的联系,基于动态贝叶斯网络建立疲劳裂纹扩展动态性能退化模型;采用粒子滤波(PF)推断算法,向动态性能退化模型输入裂纹观测数据,修正预测结果,降低不确定因素的影响。根据已有的裂纹扩展实验数据,给出具有不确定因素疲劳裂纹扩展预测的仿真算例。

动态贝叶斯网络作为描述数据变量之间依赖关系的有向无环图,可以将实时监测数据、可靠性数据以及物理模型有效融合,通过输入数据对多个随机节点进行推理更新以消除不确定因素的对于损伤预测精度的影响。

在运用动态贝叶斯网络的变幅载荷下疲劳裂纹扩展预测的主要目的是通过推理更新校准不确定性参数的数值,实现对疲劳裂纹扩展的动态跟随和当前时间节点裂纹状态的准确获知。

《动态贝叶斯网络构建及篦冷机篦下压力状态预测研究》

由于篦冷机存在非线性、时变和参数相互耦合等缺点,因此提出通过构建贝叶斯网络来预测篦冷机的篦下压力状态。

静态贝叶斯算法:K2算法和爬山算法

K2算法:必须已知最大父节点数和节点序先验知识  (最早的贝叶斯结构学习算法)

K2算法是在给定变量排序p和最大父节点数u的条件下,利用CH评分函数寻找与完整样本数据D匹配度最高的网络。

K2算法可以成功地缩减搜索空间,加快收敛速度和保证准确度,然而在实际构建贝叶斯网络结构的过程中,这两个限制条件却是很难准确的确定。

当最大父节点数u过大时造成搜索空间增大,过小时造成父节点丢失;当节点排序p出现错误时不能找到准确的父节点集。

爬山算法(Hill Climbing, HC):易陷入局部最优,运行时间长的特点

是一种简单的贪心算法。容易陷入局部最优值。

对于贝叶斯网络的爬山算法,解决方案是:

1.  随机重复爬山法:该算法是在每一次迭代开始时,随机从新的结构进行爬山搜索。多次迭代之后,取个次运行结果中最优的贝叶斯网络结构作为最终结果。

2.  利用元启发式搜索算法改进爬山算法:是一种独立的局部搜索算法。存在精度不高的缺点。

蚁群节点寻优算法(MWST-ACO-K2, MAK)  

针对K2算法依赖最大父节点数和节点序的不足,提出了蚁群节点寻优算法。该算法通过计算互信息建立最大支撑树,得到最大父节点数,然后利用蚁群算法搜索最大支撑树,获得节点顺序;最后结合K2算法得到最优的贝叶斯网络结构。

分类优化算法:(Classification Optimization Algorithm, CPA)

针对HC算法易陷入局部最优和搜索效率低的缺点,提出分类优化算法。

CPA是以最大支撑树为初始模型;通过减边和转边算子对初始模型进行一次更新,得到N各候选结构;然后利用BIC评分准则分类候选结构,在师生交流机制优化优解和变异机制优化劣解后,对优化后的结构进行环路修正;最后多次优化迭代后,算法收敛到最优的贝叶斯结构。

针对DBN结构学习NP难得问题,提出了分类优化DBN算法(I-CPA-DBN)。该算法首先利用互信息分别构建片内和片间初始结构;其次通过减边和转边算子更新片内结构,减边算子更新片间结构,得到候选结构;然后采用CPA算法优化两种结构,并根据BIC测度进行评分;多次迭代收敛后,选取评分最高的DBN结构。

动态贝叶斯网络的参数学习:

最大似然估计(Maximum Likelihood Estimation, MLE)

贝叶斯估计法(Maximum Posterior, MAP)

最大期望算法(Expectation Maximization Algorithm, EM)

MLE和MAP是在完备条件下,常用的贝叶斯参数学习算法

EM算法是在一种常见的不完整数据条件下计算贝叶斯网络参数的算法。

MLE算法具有一下优点:

概率收敛一致性:实验结果准确率与样本数据量成正比

最大可能性:计算结构中每个节点最可能发生的情况。

针对对篦冷机时变、非线性、参数相互耦合的缺点,提出了动态贝叶斯网络模型构建及篦冷机参数状态预测。通过对经典静态贝叶斯网络算法的研究,提出了搜索空间小,收敛速度快的改进算法。在此基础上,利用时序数据计算时间互信息,结合改进算法提出了动态贝叶斯结构学习算法,在运行时间和准确率上达到了平衡。

寄语

本章内容主要是地动态贝叶斯的研究成果进行一些展示,通过这三篇论文大家可以发现,动态贝叶斯的应用领域目前来说,对于做预测来说,效果还是很好的。并且动态贝叶斯的学习能力很强,可以得到理想的结果。

往期经典再现