• 
• 比较不同移动系列模型的准确性-延迟。在批量大小为1且启用了MKLDNN的Intelr Xeonr Gold 6148处理器上测试的延迟，线程数量为10。
• PP-LCNet 在同样精度的情况下，速度远超当前所有的骨架网络，最多可以有 2 倍的性能优势！它应用在比如目标检测、语义分割等任务算法上，也可以使原本的网络有大幅度的性能提升。

卷积神经网络(CNN)代表了大多数当前计算机视觉应用的主力，包括图像分类，对象检测，注意力预测，目标跟踪，动作识别，语义分割，显著对象检测和边缘检测。

随着模型特征提取能力的增加以及模型参数和触发器的数量变得更大，在基于ARM架构的移动设备或基于x86架构的CPU设备上实现快速推理变得困难。在这种情况下，许多优秀的移动网络被提出，但由于MKLDNN的限制，这些网络的速度在启用MKLDNN的英特尔CPU上并不理想。

在本文中，重新思考了基于Intel-CPU设计的轻量级网络模型元素。特别是，我考虑以下三个基本问题。

• (一)如何促进网络 在不增加延迟的情况下学习更强的特征呈现 。
• (二)轻量级模型在CPU上提高精度的要素有哪些。
• (三)如何在CPU上有效组合设计轻量级模型的不同策略。

本文的主要贡献是总结了一系列 在不增加推理时间的情况下提高准确率的方法 ，以及如何将这些方法结合起来以 获得更好的准确率和速度的平衡 。

基于此，提出了几种 设计轻量级CNN的通用规则 ，并为其他研究人员在CPU设备上构建CNN提供了新的思路。此外，它可以为神经架构搜索研究人员在构建搜索空间时提供新的思路，从而更快地获得更好的模型。

• PP-LCNet的详细视图。虚线框代表可选模块。茎部分使用标准的3×3卷积。DepthSepConv表示深度方向可分离卷积，DW表示深度方向卷积，PW表示点方向卷积，GAP表示全局平均池。

为提高模型的能力，目前的工作通常遵循两种类型的方法。一种基于人工设计的CNN结构，另一种基于神经结构搜索(NAS)。

Manually-designed Architecture

• VGG展示了一种构建非常深的网络的简单而有效的策略: 堆叠具有相同维度的块 。

• GoogLeNet构造了一个Inception块，它包括4个并行操作:1×1卷积、3×3卷积、5×5卷积和max pooling。GoogLeNet让卷积神经网络足够轻便，然后越来越多更轻便的网络出现。

• MobileNetV1用深度方向和点方向卷积代替了标准卷积，大大减少了模型的参数和FLOPs的数量。MobileNetV2的作者提出了Inverted block，进一步减少了模型的FLOPs，同时提高了模型的性能。

• ShuffleNetV1/V2通过channel shuffle来交换信息，减少了网络结构不必要的开销。

• GhostNet的作者提出了一种新颖的Ghost模块，可以用更少的参数生成更多的特征图，提高模型的整体性能。

  • Ghost Module是一种模型压缩的方法， 即在保证网络精度的同时减少网络参数和计算量 ，从而提升计算速度（speed），降低延时（latency）。Ghost 模块可以代替现有卷积网络中的每一个卷积层。

  • 通过对比分析ResNet-50网络第一个残差组（Residual group）输出的特征图可视化结果，发现一些特征图高度相似（如Ghost一般，下图中的三组box内的图像对）。

    • 
    • 原论文的操作是推测CNN的强大特征提取能力和这些相似的特征图（Ghost对）正相关， 不去刻意的避免产生这种Ghost对，而是尝试利用简单的线性操作来获得更多的Ghost对。

  • Ghost Module ：*分为 常规卷积、Ghost生成和特征图拼接三 *步（如下图所示）：

    • 首先用常规卷积得到 本征特征图（ intrinsic feature maps ） y i j ​ = ϕ i , j ​ ( y i ‘ ​ ) , ∀ i = 1 , . . . , m ; j = 1 , . . . , s

  • 最后将第一步得到的本征特征图和第二步得到的Ghost特征图拼接（identity连接）得到最终结果OutPut。

• 对线性操作 ϕ i , j ​ ，以构建高效的深度神经网络。

• 很明显，相比于直接用常规卷积，Ghost Module的计算量大幅度降低。