使用Octave卷积减少CNN中的空间冗余
在论文《Drop an Octave: Reducing Spatial Redundancy in Convolutional Neural Networks with Octave Convolution》中,研究人员提出基于频率对混合特征图进行分解,并设计一种新的Octave卷积(OctConv)操作,以存储和处理较低空间分辨率下空间变化“较慢”的特征图,从而降低内存和计算成本。与现有多尺度方法不同,OctConv被表示为一种单个的、通用的和即插即用的卷积单元,其可以用作(普通)卷积的直接替代,而不需要在网络架构中做任何调整。OctConv对于那些显示更优拓扑或者减少分组或深度卷积中通道冗余的方法也是正交和互补的。实验表明,仅以OctConv替代卷积,研究人员即可以持续提高图像和视频识别任务的准确度,同时降低内存和计算成本。一个配备有OctConv的ResNet-152可以在仅22.2每秒亿浮点运算(GFLOP)的ImageNet上获得82.9%的top-1分类准确度。