为什么MobileNetV2仅在移动设备上比MobileNetV1更快？

Question

我正在研究谷歌的全新MobileNetV2架构。

在学习期间，我在Tensorflow模型动物园Github上读到了这个字符串

“例如，Mobilenet V2在移动设备上的速度比Mobilenet V1快，但在桌面GPU上速度稍慢。”

所以，我的问题是，

怎么可能呢？我真的想知道为什么。

Answer 1

来自https://arxiv.org/abs/1903.08469v1：

“然而，MobileNet V2使用深度可分离的卷积，这在GPU固件（cuDNN库）中并不直接支持。因此，在大多数实验设置中，MobileNet V2往往比ResNet18慢。请注意，同样的问题会使DenseNet架构的使用失效[因为它需要在非连续张量上进行有效卷积，这在cuDNN中仍然不受支持。“

Answer 2

从他们在MobileNetV2: Inverted Residuals and Linear Bottlenecks发表的论文，

在副标题5下：实施说明，5.1。记忆效率推理;

倒置的残留瓶颈层允许特别存储器有效的实现，这对于移动应用非常重要。 （还有更多论文）

根据TensorFlow团队的说法，它的优化尺寸更小，也可以用作TF Lite。据我们所知，TF Lite确实适合移动使用。在桌面GPU上速度要慢得多，与V1相比，V2有更多的转换层，如果训练需要花费更多时间才能完成。目前，由于计算速度快，导致电力饥饿，我们没有对移动数据进行培训和推理。

希望我回答这个问题。