resnet网络结构

resnet即残差网络，是一种作为许多计算机视觉任务主干的经典神经网络。

resnet是2015年ImageNet挑战赛的获胜者，ResNet最根本的突破在于它使得我们可以训练成功非常深的神经网路，如150+层的网络。

在resnet之前，由于梯度消失的问题，训练非常深的神经网络是非常困难的。

但是，提升网络的深度并不是简单的将网络层堆叠起来。

resnet很难训练的原因，是因为非常烦人的梯度消失问题——随着梯度反向传播回前面的网络层，重复的乘积操作会使得梯度变得非常小。

结果呢，随着网络越来越深，它的性能就变得饱和了，并开始迅速下降。

resnet是靠前个提出残差连接的概念。