1,理论部分
由于内存和计算资源有限,在移动设备上部署卷积神经网络 (CNN) 很困难。我们的目标是通过利用特征图中的冗余,为 CPU 和 GPU 等异构设备设计高效的神经网络,这在神经架构设计中很少被研究。对于类 CPU 设备,我们提出了一种新颖的 CPU 高效 Ghost (C-Ghost) 模块,以从廉价操作中生成更多特征图。基于一组内在特征图,我们以较低的成本应用了一系列线性变换来生成许多幽灵特征图,这些图可以完全反映内在特征背后的信息。所提出的 C-Ghost 模块可以作为升级现有卷积神经网络的即插即用组件。C Ghost 瓶颈设计成 C-Ghost 模块的堆叠,然后可以轻松建立轻量级的 C-GhostNet。我们进一步考虑了 GPU 设备的高效网络。在构建阶段不涉及太多 GPU 效率低下的操作(例如,深度卷积)的情况下,我们建议利用阶段性特征冗余来模拟 GPU 高效的 Ghost (G-Ghost) 阶段结构。阶段中的特征分为两部分,第一部分使用原始块进行处理,具有较少的输出通道来生成内在特征,另一部分是通过利用阶段冗余使用廉价操作生成的。在基准测试中进行的实验证明了所提出的 C-Ghost