4.6 什么是深度卷积网络?(What are deep ConvNets learning?)

假如训练了一个Alexnet轻量级网络,不同层之间隐藏单元的计算结果如下:

从第一层的隐藏单元开始,将训练集经过神经网络,然后弄明白哪一张图片最大限度地激活特定的单元。在第一层的隐藏单元,只能看到小部分卷积神经,只有一小块图片块是有意义的,因为这就是特定单元所能看到的全部

然后选一个另一个第一层的隐藏单元,重复刚才的步骤:

对其他隐藏单元也进行处理,会发现其他隐藏单元趋向于激活类似于这样的图片:

以此类推,这是9个不同的代表性神经元,每一个不同的图片块都最大化地激活了。可以理解为第一层的隐藏单元通常会找一些简单的特征,比如说边缘或者颜色阴影

在深层部分,一个隐藏单元会看到一张图片更大的部分,在极端的情况下,可以假设每一个像素都会影响到神经网络更深层的输出,靠后的隐藏单元可以看到更大的图片块

第一层,第一个被高度激活的单元:

第二层检测的特征变得更加复杂:

第三层明显检测到更复杂的模式

第四层,检测到的模式和特征更加复杂:

第五层检测到更加复杂的事物:

Last updated