神经网络中的前向和后向算法
神经网络中的前向和后向算法看了一段时间的深度网络模型，也在tf和theano上都跑了一些模型，但是感觉没有潜下去，对很多东西的理解都只停留在”这个是干什么的”层次上面。
昨天在和小老师一起看一篇文章的时候，就被问到RNN里面的后向传播算法具体是怎么推。当时心里觉得BP算法其实很熟悉啊，然后在推导的过程中就一脸懵逼了。
于是又去网上翻了翻相关内容，自己走了一遍，准备做个笔记，算是个交代。准备一个神经网络模型，比如：其中，[i1,i2]代表输入层的两个结点，[h1,h2]代表隐藏层的两个结点，[o1,o2]为输出。
[b1,b2]为偏置项。连接每个结点之间的边已经在图中标出。
来了解一下前向算法：前向算法的作用是计算输入层结点对隐藏层结点的影响，也就是说，把网络正向的走一遍：输入层—->隐藏层—->输出层计算每个结点对其下一层结点的影响。
??例如，我们要算结点h1的值，那么就是：是一个简单的加权求和。这里稍微说一下，偏置项和权重项的作用是类似的，不同之处在于权重项一般以乘法的形式体现，而偏置项以加法的形式体现。
??而在计算结点o1时，结点h1的输出不能简单的使用neth1的结果，必须要计算激活函数，激活函数，不是说要去激活什么，而是要指”激活的神经元的特征”通过函数保留并映射出来。
以sigmoid函数为例，h1的输出：于是最后o1的输出结果，也就是整个网络的一个输出值是：按照上面的步骤计算出out02，则[outo1,outo2]就是整个网络第一次前向运算之后得到的结果。
后向算法：??在实际情况中，因为是随机给定的权值，很大的可能（几乎是100%）得到的输出与实际结果之间的偏差非常的大，这个时候我们就需要比较我们的输出和实际结果之间的差异，将这个残差返回给整个网络，调整网络中的权重关系。
这也是为什么我们在神经网络中需要后向传播的原因。
其主要计算步骤如下：1.计算总误差2.隐藏层的权值更新在要更新每个边的权重之前，必须要知道这条边对最后输出结果的影响，可以用整体误差对w5求偏导求出：具体计算的时候，可以采用链式法则展开：在计算的时候一定要注意每个式子里面哪些自变量是什么，求导千万不要求错了。
??需要讲出来的一个地方是，在计算w1的权重时，Etotal中的两部分都需要对它进行求导，因为这条边在前向传播中对两个残差都有影响3.更新权重这一步里面就没什么东西了，直接根据学习率来更新权重：至此，一次正向+反向传播过程就到此为止，接下来只需要进行迭代，不断调整边的权重，修正网络的输出和实际结果之间的偏差（也就是training整个网络）。
神经网络算法原理
4.2.1概述人工神经网络的研究与计算机的研究几乎是同步发展的 rbsci。
1943年心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型，20世纪50年代末，Rosenblatt提出了感知器模型，1982年，Hopfiled引入了能量函数的概念提出了神经网络的一种数学模型，1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播算法等。
神经网络技术在众多研究者的努力下，理论上日趋完善，算法种类不断增加。目前，有关神经网络的理论研究成果很多，出版了不少有关基础理论的著作，并且现在仍是全球非线性科学研究的热点之一。
神经网络是一种通过模拟人的大脑神经结构去实现人脑智能活动功能的信息处理系统，它具有人脑的基本功能，但又不是人脑的真实写照。它是人脑的一种抽象、简化和模拟模型，故称之为人工神经网络（边肇祺，2000）。
人工神经元是神经网络的节点，是神经网络的最重要组成部分之一。目前，有关神经元的模型种类繁多，最常用最简单的模型是由阈值函数、Sigmoid函数构成的模型（图4-3）。
图4-3人工神经元与两种常见的输出函数神经网络学习及识别方法最初是借鉴人脑神经元的学习识别过程提出的。
输入参数好比神经元接收信号，通过一定的权值（相当于刺激神经兴奋的强度）与神经元相连，这一过程有些类似于多元线性回归，但模拟的非线性特征是通过下一步骤体现的，即通过设定一阈值（神经元兴奋极限）来确定神经元的兴奋模式，经输出运算得到输出结果。
经过大量样本进入网络系统学习训练之后，连接输入信号与神经元之间的权值达到稳定并可最大限度地符合已经经过训练的学习样本。
在被确认网络结构的合理性和学习效果的高精度之后，将待预测样本输入参数代入网络，达到参数预测的目的。
4.2.2反向传播算法（BP法）发展到目前为止，神经网络模型不下十几种，如前馈神经网络、感知器、Hopfiled网络、径向基函数网络、反向传播算法（BP法）等，但在储层参数反演方面，目前比较成熟比较流行的网络类型是误差反向传播神经网络（BP-ANN）。
BP网络是在前馈神经网络的基础上发展起来的，始终有一个输入层（它包含的节点对应于每个输入变量）和一个输出层（它包含的节点对应于每个输出值），以及至少有一个具有任意节点数的隐含层（又称中间层）。
在BP-ANN中，相邻层的节点通过一个任意初始权值全部相连，但同一层内各节点间互不相连。
对于BP-ANN，隐含层和输出层节点的基函数必须是连续的、单调递增的，当输入趋于正或负无穷大时，它应该接近于某一固定值，也就是说，基函数为”S”型（Kosko，1992）。
BP-ANN的训练是一个监督学习过程，涉及两个数据集，即训练数据集和监督数据集。
给网络的输入层提供一组输入信息，使其通过网络而在输出层上产生逼近期望输出的过程，称之为网络的学习，或称对网络进行训练，实现这一步骤的方法则称为学习算法。
BP网络的学习过程包括两个阶段：第一个阶段是正向过程，将输入变量通过输入层经隐层逐层计算各单元的输出值；第二阶段是反向传播过程，由输出误差逐层向前算出隐层各单元的误差，并用此误差修正前层权值。
误差信息通过网络反向传播，遵循误差逐步降低的原则来调整权值，直到达到满意的输出为止。
网络经过学习以后，一组合适的、稳定的权值连接权被固定下来，将待预测样本作为输入层参数，网络经过向前传播便可以得到输出结果，这就是网络的预测。
反向传播算法主要步骤如下：首先选定权系数初始值，然后重复下述过程直至收敛（对各样本依次计算）。
（1）从前向后各层计算各单元Oj储层特征研究与预测（2）对输出层计算δj储层特征研究与预测（3）从后向前计算各隐层δj储层特征研究与预测（4）计算并保存各权值修正量储层特征研究与预测（5）修正权值储层特征研究与预测以上算法是对每个样本作权值修正，也可以对各个样本计算δj后求和，按总误差修正权值。
关于神经网络的权值训练方法
。
%读入训练数据和测试数据Input=[];Output=[];str={‘Test’,’Check’};Data=textread([str{1},’.txt’]);%读训练数据Input=Data(:,1:end-1);%取数据表的前五列（主从成分）Output=Data(:,end);%取数据表的最后一列（输出值）Data=textread([str{2},’.txt’]);%读测试数据CheckIn=Data(:,1:end-1);%取数据表的前五列（主从成分）CheckOut=Data(:,end);%取数据表的最后一列（输出值）Input=Input’;Output=Output’;CheckIn=CheckIn’;CheckOut=CheckOut’;%矩阵赚置[Input,minp,maxp,Output,mint,maxt]=premnmx(Input,Output);。
神经网络权值怎么确定？
神经网络的权值是通过对网络的训练得到的。如果使用MATLAB的话不要自己设定，newff之后会自动赋值。也可以手动：{}=;{}=。一般来说输入归一化，那么w和b取0-1的随机数就行。
神经网络的权值确定的目的是为了让神经网络在训练过程中学习到有用的信息，这意味着参数梯度不应该为0。
参数初始化要满足两个必要条件：1、各个激活层不会出现饱和现象，比如对于sigmoid激活函数，初始化值不能太大或太小，导致陷入其饱和区。
2、各个激活值不为0，如果激活层输出为零，也就是下一层卷积层的输入为零，所以这个卷积层对权值求偏导为零，从而导致梯度为0。扩展资料：神经网络和权值的关系。
在训练智能体执行任务时，会选择一个典型的神经网络框架，并相信它有潜力为这个任务编码特定的策略。注意这里只是有潜力，还要学习权重参数，才能将这种潜力变化为能力。
受到自然界早成行为及先天能力的启发，在这项工作中，研究者构建了一个能自然执行给定任务的神经网络。也就是说，找到一个先天的神经网络架构，然后只需要随机初始化的权值就能执行任务。
研究者表示，这种不用学习参数的神经网络架构在强化学习与监督学习都有很好的表现。其实如果想象神经网络架构提供的就是一个圈，那么常规学习权值就是找到一个最优点（或最优参数解）。
但是对于不用学习权重的神经网络，它就相当于引入了一个非常强的归纳偏置，以至于，整个架构偏置到能直接解决某个问题。但是对于不用学习权重的神经网络，它相当于不停地特化架构，或者说降低模型方差。
这样，当架构越来越小而只包含最优解时，随机化的权值也就能解决实际问题了。如研究者那样从小架构到大架构搜索也是可行的，只要架构能正好将最优解包围住就行了。参考资料来源：百度百科-神经网络。
bp 批处理算法到底怎么回事啊？完成一轮训练后权值怎样调整？
梯度下降算法是指什么 神经网络
BP神经网络连接权值如何确定
确认方法：统计学认为，在统计中计算平均数等指标时，对各个变量值具有权衡轻重作用的数值就称为权数。
例子：求下列数串的平均数3、4、3、3、3、2、4、4、3、3、一般求法为（3＋4＋3＋3＋3＋2＋4＋4＋3＋3）／10＝3．2加权求法为（6＊3＋3＊4＋2）／10＝3．2其中3出现6次，4出现3次，2出现1次．6、3、1就叫权数。
这种方法叫加权法。一般说的平均数，就是把所有的数加起来，再除以这些数的总个数。
表示为：(p1+p2+p3+…..+pn)/n;但有的数据记录中有一些相同的数据，在计算的时候，那一个数有几个相同数，就把这个数乘上几，这个几，就叫权，加权，就是乘上几后再加。
平均数还是要除以总个数。
还是以上面的各个数为例：它们每个数都有一些相同数，表示为：k1,k2,k3…….kn;加权平均的公式是：（k1p1+k2p2+k3p3+……knpn）/(k1+k2+k3+…..kn)。
神经网络权值是啥意思？
神经网络的权值是通过对网络的训练得到的。如果使用MATLAB的话不要自己设定，newff之后会自动赋值。也可以手动：{}=;{}=。一般来说输入归一化，那么w和b取0-1的随机数就行。
神经网络的权值确定的目的是为了让神经网络在训练过程中学习到有用的信息，这意味着参数梯度不应该为0。网络是由若干节点和连接这些节点的链路构成，表示诸多对象及其相互联系。
在1999年之前，人们一般认为网络的结构都是随机的。
但随着Barabasi和Watts在1999年分别发现了网络的无标度和小世界特性并分别在世界著名的《科学》和《自然》杂志上发表了他们的发现之后，人们才认识到网络的复杂性。
网络会借助文字阅读、图片查看、影音播放、下载传输、游戏、聊天等软件工具从文字、图片、声音、视频等方面给人们带来极其丰富的生活和美好的享受。
汉语中，”网络”一词最早用于电学《现代汉语词典》（1993年版）做出这样的解释：”在电的系统中，由若干元件组成的用来使电信号按一定要求传输的电路或这种电路的部分，叫网络。
“在数学上，网络是一种图，一般认为专指加权图。网络除了数学定义外，还有具体的物理含义，即网络是从某种相同类型的实际问题中抽象出来的模型。
在计算机领域中，网络是信息传输、接收、共享的虚拟平台，通过它把各个点、面、体的信息联系到一起，从而实现这些资源的共享。网络是人类发展史来最重要的发明，提高了科技和人类社会的发展。
关于
人工神经网络是模仿人脑神经网络的算法。输入相应特征后，经过网络的层层计算，得出输出。再按照相应的算法进行权值，阈值等参数的更新。比较常用的神经网络模型有BP（误差反馈）网络。一般网络也就是三层。
你可以先看看BP网络的，应该就能解决你在分类识别方面的问题。
Original: https://blog.csdn.net/m0_54846070/article/details/126261451
Author: 塑胶技术
Title: 神经网络权值更新公式,神经网络权重更新公式
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/614671/
转载文章受原作者版权保护。转载请注明原作者出处！