人工智能中的数学笔记

138 阅读2分钟

本文已参与「新人创作礼」活动,一起开启掘金创作之路。

人工智能网络:

类似在神经网络中的一层一层就类似是激活函数,通过激活函数对特定的数据段起反应

反向传播算法

原来算猫狗,现在想算猴子和大象:

1.重新算一个

2.做知识迁移,通过把猫狗的数据归纳到猴子和大象之中

计算神经网络:

不是一层一层算的,而是通过把神经网络类似整合为同一个函数,所有的参数都在同一次调整

?好像不是这样的,否则要反向传播有何用? 答:不是这样的

计算何时停止?

1.误差到一定的阈值之下

2.计算到一定的次数就不计算了

随机梯度下降如果下降到中间的一个极小值,但是不是全局的最小值,那就可能需要人工来做,或者通过调整补长来做

马尔科夫链+随机过程

随机过程是利用这些统计模型把整个过程进行量化处理,公式就可以推导出来

马尔科夫链类似金鱼的记忆只有三秒,无记忆性要求下一状态的概率分布只能由当前状态决定,在时间序列上与之前的时间均无关。

由于某一时刻的状态转移概率只依赖于它的前一个状态,只要求出系统中任意两个状态之间的转换概率(齐次模型,这个转换概率不变化)0,马尔科夫链模型就确定了。

一般来说马尔科夫链讲的是离散的时序,离散的状态(今天、每天、、、不是时间完全连接的)

状态转移架构一定有限次数序列的转换,最终一定可以得到一个稳定的概率分布,而且与初始的概率无关(一直算到后面,概率分布就不变了)

隐马尔可夫(马尔可夫+隐藏的状态):

各个状态会生成一个随机结果,但是这个状态可能是看不到的

转移概率和输出概率:

转移概率:用哪个骰子

输出概率:每个骰子出现哪一面的概率

评估问题;;向前,向后算法

模型学习问题:即参数估计问题;;baum-welchs算法

预测问题:解码问题;;维比特编码

预测方法:

1.穷举法,找出概率最大的就行

2.前向算法