ps:没有开始写具体内容现在只是把所涉及到的内容大概的框架整理出来了
等晚上回家整理
人工神经网络(Artificial Neural Network,ANN)
简称神经网络(Neural Network,NN)或类神经网络,在机器学习和认知科学领域,是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似。是一种自适应系统,具备学习能力。
------------------------------------------------------------------------------------------------
下面就对神经网络进行复习
神经网络的组成神经元
人脑中神经细胞约有860亿个,无数的神经元构成了神经网络。
神经元模型是一个包含,输出与计算功能的模型。神经元的主要的作用是接受输入信号,当输入满足条件,输出信号。
对于神经元我们可以分步理解
上面这张图说的是最初步的神经元的构造
简单的说我们有三个条件x1 x2 x3
x1 --> 体温
x2 -->身体在运动
x3 --> 空气温度
如果三个条件的合计大于50,就会输出(output)身体出汗的信号,否则不输出信号。
公式为:y = x1 + x2 + x3 - 50(如果y>0输出信号,否则相反) 在这里要介绍一下权重w:
权重是一个相对的概念,是针对某一指标而言。某一指标的权重是指该指标在整体评价中的相对重要程度。
打个比方说, 一件事情, 你给它打100分, 你的老板给它打60分, 如果平均, 则是(100+60)/2=80分。但因为老板说的话分量比你重, 假如老板的权重是2, 你是1, 这时求平均值就是加权平均了, 结果是(100*1 + 60*2)/(1+2)=73.3分, 显然向你的老板那里倾斜了。假如老板权重是3,你的权重是1,结果是(100*1+60*3)/(1+3)=70。这就是根据权重的不同进行的平均数的计算,所以又叫加权平均数。
对于我们上面的问题我们可以添加权值,简单的说身体在运动的话容易出汗的比率大于另在两个条件我们就可以添加相应的权值。
公式为:y = x1*w1 + x2*w2 + x3*w3 - 50(如果y>0输出信号,否则相反) 神经元的概念大概如下:
神经元= 感知器 ( )+ 触发器( 通过阈值b 判断是否输出 )- a1~an为输入向量的各个分量
- w1~wn为神经元各个突触的权值
- b为偏置
- f为传递函数,通常为非线性函数。一般有traingd(),tansig(),hardlim()。以下默认为hardlim()
- t为神经元输出
到这里大概就可以说神经元就可以说完,但是单个神经元构成的决策模型不能满足真实世界中的问题,实际的决策模型要复杂很多是由多个神经元组成多层网络。
大家可以考虑一下,w(权重) b(阈值)这两个值要怎么决定才是最优值?
典型的人工神经网络具有以下三个部分:
------------------------------------------------------------------------------------------------
结构
结构指定了网络中的变量和它们的拓扑关系。例如,神经网络中的变量可以是神经元连接的权重(weights)和神经元的激励值(activities of the neurons)。
------------------------------------------------------------------------------------------------
激励函数 (Activation Rule)
------------------------------------------------------------------------------------------------
损失函数(loss function)
错误反馈的量化
------------------------------------------------------------------------------------------------
梯度下降法又名傾斜下降法(Gradient descent)
找到最小误差
导数
微分
------------------------------------------------------------------------------------------------
逃离鞍点
www.offconvex.org/2016/03/22/…
www.offconvex.org/2016/03/24/…
鞍点
------------------------------------------------------------------------------------------------
实现-->keras
框架 :TensorFlow 2.0
----------------------------------------------------- ----------------------------------------
神经网络的优缺点
以及自己的想法
------------------------------------------------------------------------------------------------