文章目录
前言
提示：这里可以添加本文要记录的大概内容：
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。
一.Residual net(残差网络)：靠前若干层的某一层数据输出直接跳过多层引入到后面数据层的输入部分。
残差神经单元：假定某段神经网络的输入是x,期望输出是H(x),如果我们直接将输入x传到输出作为初始结果，那么我们需要学习的目标就是F(x)=H(x)-x，这就是一个残差神经单元，相当于将学习目标改变了，不再是学习一个完整的输出H(x)，只是输出和输入的差别H(x)-x，即残差。
残差网络的作用：1.普通的直连的卷积网络和ResNet的最大区别在于，ResNet有很多旁路的支线将输入直接连接到后面的层，使得后面的层可以直接学习残差，这种结构也被称为shortcut或者skip connections。
2.传统的卷积层或全连接层在传递信息时，或多或少会存在信息的丢失，损耗等问题。ResNet在某种程度上解决了这个问题，通过直接将输入信息绕道传到输出，保护信息的完整性，整个网络只需要学习输入，输出差别的那一部分，简化了学习目标和难度。
二.BatchNormalization(BN)
1.所有输出保证在0到1之间。
2.所有输出数据均值接近0，标准差接近1的正太分布。使其落入激活函数的敏感区，避免梯度消失，加快收敛。
3.加快模型收敛速度，并且具有一定的泛化能力。
4.可以减少Dropout的使用。(减少过拟合)
三.ResNet结构
ResNet50有俩个基本块，分别名为Conv Block和Identity Block，其中Conv Block输入和输出的维度是不一样的，所以不能继续串联，它的作业是改变网络的维度。Identity Block输入浩然输出的维度相同，可以串联，用于加深网络。
Original: https://blog.csdn.net/qq_43994717/article/details/125211427
Author: 冷月–
Title: ResNet结构
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/628768/
转载文章受原作者版权保护。转载请注明原作者出处！