机器学习社群热议论文:「DeepShift:迈向无乘法神经网络」
机器学习社群近日在 Reddit 论坛热议这篇出自华为 Hetrogeneous Compilers Lab 名为「DeepShift:迈向无乘法神经网络」的论文,以下为论文概述:深度学习模型(尤其是 DCNN)已在计算机视觉应用多个方面获得了较高的准确性。但是,要在移动环境中进行部署,高计算量和功耗预算被证明是主要瓶颈。卷积层和全连接层大量使用乘法,由此大幅地增加计算预算。本文提出通过引入两个新操作来解决此问题:卷积移位和全连接的移位。这套神经网络架构(卷积移位和完全关联的移位)称为 DeepShift 模型。借助无需乘法即可实现的 DeepShift 模型,作者在 CIFAR10 数据集上获得了高达 93.6%的准确度,并且 Imagenet 数据集的 Top-1 / Top-5 准确性为 70.9%/ 90.13%。