本文已参与「新人创作礼」活动,一起开启掘金创作之路。
人工智能网络:
类似在神经网络中的一层一层就类似是激活函数,通过激活函数对特定的数据段起反应
反向传播算法
原来算猫狗,现在想算猴子和大象:
1.重新算一个
2.做知识迁移,通过把猫狗的数据归纳到猴子和大象之中
计算神经网络:
不是一层一层算的,而是通过把神经网络类似整合为同一个函数,所有的参数都在同一次调整
?好像不是这样的,否则要反向传播有何用? 答:不是这样的
计算何时停止?
1.误差到一定的阈值之下
2.计算到一定的次数就不计算了
随机梯度下降如果下降到中间的一个极小值,但是不是全局的最小值,那就可能需要人工来做,或者通过调整补长来做
马尔科夫链+随机过程
随机过程是利用这些统计模型把整个过程进行量化处理,公式就可以推导出来
马尔科夫链类似金鱼的记忆只有三秒,无记忆性要求下一状态的概率分布只能由当前状态决定,在时间序列上与之前的时间均无关。
由于某一时刻的状态转移概率只依赖于它的前一个状态,只要求出系统中任意两个状态之间的转换概率(齐次模型,这个转换概率不变化)0,马尔科夫链模型就确定了。
一般来说马尔科夫链讲的是离散的时序,离散的状态(今天、每天、、、不是时间完全连接的)
状态转移架构一定有限次数序列的转换,最终一定可以得到一个稳定的概率分布,而且与初始的概率无关(一直算到后面,概率分布就不变了)
隐马尔可夫(马尔可夫+隐藏的状态):
各个状态会生成一个随机结果,但是这个状态可能是看不到的
转移概率和输出概率:
转移概率:用哪个骰子
输出概率:每个骰子出现哪一面的概率
评估问题;;向前,向后算法
模型学习问题:即参数估计问题;;baum-welchs算法
预测问题:解码问题;;维比特编码
预测方法:
1.穷举法,找出概率最大的就行
2.前向算法