通过结构重参数机制实现特征复用的作者们,赋予了GhostNet新的生命力,提出了硬件友好的方案RepGhostNet。在ImageNet和COCO基线任务中,验证了该方案的有效性和高效性。下图显示,与MobileOne、MobileNeXt等轻量型架构相比,RepGhostNet表现更加出色!速览版请继续阅读!

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干

出发点

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干

GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征复用呢?答案是结构重参数!!!

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干

上图展示了从Ghost到RepGhost的进化过程,包括以下三点:

  1. 使用Add替代Concat以降低耗时;
  2. 迁移ReLU以符合重参数折叠机制;
  3. 引入BN到shortcut分支进一步提升非线性。

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干

上图展示了Bottleneck的改进过程:主要体现在通道数的调整,这是因为从Concat到Add的过渡会导致通道数发生变化。作者主要调整了中间通道数,而保持输入与输出通道数不变。

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干

本文的实验结果

以下两个表格展示了在ImageNet和COCO数据集上的性能对比,RepGhost在轻量化方面表现出色,FLOPs基本在300M以内。

端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干