不仅如此，残差网络在更深结构下的收敛性能也有了明显的提高，整个实验取得了很大的成功。 将卷积层的深度提升到19层，在当年的ImageNet大会上的定位问题上取得了第一名的好成绩。 如果这个卷积层有32个过滤器，就会生成32*28*28*5*5*3三个参数，这些参数全部传递给下一层的每个神经元，显然参数过于庞大。

此外，sigmoid的output的值0不是平均值。 这是因为从上一层输出的非零平均信号直接输入到下一层神经元。 在本次研究中，对各个模型进行了分析，由于在效果上ResNet优于Inception，也优于VGG，因此第四章的实验主要采用了谷歌的Inception模型，即谷歌net。

1、卷积神经网络隐藏层作用

具有这种大小的卷积核4096个，分别对输入图像进行4096次全卷积操作，最终结果为列矢量，共计4096个。 上图为网络分析图，首先运行卷积层，输入为2242243，卷积内核为7×7，步长为2，padding为3，输出维数为11211264，其中7×7卷积为7

2、卷积神经网络使用全连接层的缺点

这种多层传感器的一个缺点是层与层之间完全连接，因此模型需要更多的训练时间和参数空间。 神经网络是模仿人脑解决复杂问题，在给定数据中找到模式的方法。 随着ReLU和dropout的提出，以及GPU计算能力的突破、互联网时代大数据的爆发、卷积神经网络历史的突破，AlexNet的提出将深度学习推向了人工智能的前沿。

3、卷积神经网络中的卷积层作用

该模型减少了各层的参数量，将资源保留在更深层数的模型中，在保证复杂度较低的情况下，模型也不会出现明显的梯度消失，因此现有模型最高达1202层，错误率得到了较低的控制。 目前，在计算机视觉领域，卷积神经网络的良好效果受到很多开发者的青睐，上述AlexNet模型具有更好的效果，因此很多员工的学习者都在试图对其进行改进以获得更好的效果。

4、卷积神经网络全连接层需要训练吗

VGG网络与AlexNet网络相比，在网络的深度和宽度上进行了一定的扩展，具体的卷积运算还是类似于AlexNet网络。 由于层数多，卷积核比较小，从而提高了整个网络的特征提取效果。 这三种改进无疑可以减少整个参数的运算量，使有限的计算平台可以将更多的资源留在更深的网络中。

池化层包含6个特征映射，每个映射的像素值为14×14。 这种池化层非常重要，在一定程度上提取了网络特征的同时，运算量也大大降低，减少了网络结构过拟合的风险。