3.4 卷积的滑动窗口实现(Convolutional implementation of sliding windows)
Last updated
Last updated
前几层和之前的一样,下一层全连接层用5×5×16的过滤器来实现,数量是400个(编号1),输入图像大小为5×5×16,输出维度是1×1×400,这400个节点中每个节点都是上一层5×5×16激活值经过某个任意线性函数的输出结果
再添加另外一个卷积层(编号2),用1×1卷积,假设有400个1×1的过滤器,在这400个过滤器的作用下,下一层的维度是1×1×400,是上个网络中的这一全连接层经由1×1过滤器的处理,得到一个softmax激活值,通过卷积网络,最终得到1×1×4的输出层,而不是这4个数字(编号3)
以上就是用卷积层代替全连接层的过程,结果这几个单元集变成了1×1×400和1×1×4的维度
假设向滑动窗口卷积网络输入14×14×3的图片,神经网络最后的输出层,即softmax单元的输出是1×1×4
假设测试集图片是16×16×3,给输入图片加上黄色条块,在最初的滑动窗口算法中,把蓝色区域输入卷积网络(红色笔标记)生成0或1分类。接着滑动窗口,步幅为2个像素,向右滑动2个像素,将绿框区域输入给卷积网络,运行整个卷积网络,得到另外一个标签0或1。继续将这个橘色区域输入给卷积网络,卷积后得到另一个标签,最后对右下方的紫色区域进行最后一次卷积操作。在这个16×16×3的小图像上滑动窗口,卷积网络运行了4次,于是输出了了4个标签
这4次卷积操作中很多计算都是重复的。执行滑动窗口的卷积时使得卷积网络在这4次前向传播过程中共享很多计算,尤其是在编号1,卷积网络运行同样的参数,使用相同的5×5×16过滤器进行卷积操作,得到12×12×16的输出层。然后执行同样的最大池化(编号2),输出结果6×6×16。照旧应用400个5×5的过滤器(编号3),得到一个2×2×400的输出层,现在输出层为2×2×400,应用1×1过滤器(编号4)得到另一个2×2×400的输出层。再做一次全连接的操作(编号5),最终得到2×2×4的输出层,在输出层4个子方块中,蓝色的是图像左上部分14×14的输出(红色箭头标识),右上角方块是图像右上部分(绿色箭头标识)的对应输出,左下角方块是输入层左下角(橘色箭头标识),右下角是卷积网络处理输入层右下角14×14区域(紫色箭头标识)的结果
具体的计算步骤:以绿色方块为例,假设剪切出这块区域(编号1),传递给卷积网络,第一层的激活值就是这块区域(编号2),最大池化后的下一层的激活值是这块区域(编号3),这块区域对应着后面几层输出的右上角方块(编号4,5,6)
该卷积操作的原理是不需要把输入图像分割成四个子集,分别执行前向传播,而是把它们作为一张图片输入给卷积网络进行计算,其中的公共区域可以共享很多计算
假如对一个28×28×3的图片应用滑动窗口操作,以14×14区域滑动窗口,以大小为2的步幅不断地向右移动窗口,直到第8个单元格,得到输出层的第一行。然后向图片下方移动,最终输出8×8×4的结果
总结滑动窗口的实现过程:
在图片上剪切出一块区域,假设大小是14×14,把它输入到卷积网络。继续输入下一块区域,大小同样是14×14,重复操作,直到某个区域识别到汽车
但是不能依靠连续的卷积操作来识别图片中的汽车,可以对大小为28×28的整张图片进行卷积操作,一次得到所有预测值,如果足够幸运,神经网络便可以识别出汽车的位置
在卷积层上应用滑动窗口算法提高了整个算法的效率,缺点是边界框的位置可能不够准确