通过结构重参数机制实现特征复用的作者们,赋予了GhostNet新的生命力,提出了硬件友好的方案RepGhostNet。在ImageNet和COCO基线任务中,验证了该方案的有效性和高效性。下图显示,与MobileOne、MobileNeXt等轻量型架构相比,RepGhostNet表现更加出色!速览版请继续阅读!
出发点
GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征复用呢?答案是结构重参数!!!
上图展示了从Ghost到RepGhost的进化过程,包括以下三点:
- 使用Add替代Concat以降低耗时;
- 迁移ReLU以符合重参数折叠机制;
- 引入BN到shortcut分支进一步提升非线性。
上图展示了Bottleneck的改进过程:主要体现在通道数的调整,这是因为从Concat到Add的过渡会导致通道数发生变化。作者主要调整了中间通道数,而保持输入与输出通道数不变。
本文的实验结果
以下两个表格展示了在ImageNet和COCO数据集上的性能对比,RepGhost在轻量化方面表现出色,FLOPs基本在300M以内。