4.6 什么是深度卷积网络?(What are deep ConvNets learning?)
Last updated
Last updated
假如训练了一个Alexnet轻量级网络,不同层之间隐藏单元的计算结果如下:
从第一层的隐藏单元开始,将训练集经过神经网络,然后弄明白哪一张图片最大限度地激活特定的单元。在第一层的隐藏单元,只能看到小部分卷积神经,只有一小块图片块是有意义的,因为这就是特定单元所能看到的全部
然后选一个另一个第一层的隐藏单元,重复刚才的步骤:
对其他隐藏单元也进行处理,会发现其他隐藏单元趋向于激活类似于这样的图片:
以此类推,这是9个不同的代表性神经元,每一个不同的图片块都最大化地激活了。可以理解为第一层的隐藏单元通常会找一些简单的特征,比如说边缘或者颜色阴影
在深层部分,一个隐藏单元会看到一张图片更大的部分,在极端的情况下,可以假设每一个像素都会影响到神经网络更深层的输出,靠后的隐藏单元可以看到更大的图片块
第一层,第一个被高度激活的单元:
第二层检测的特征变得更加复杂:
第三层明显检测到更复杂的模式
第四层,检测到的模式和特征更加复杂:
第五层检测到更加复杂的事物: