论文阅读-contrastive-learning-Improved Baselines with Momentum Contrastive Learning

Moco v1链接：论文阅读-contrast-learning-Momentum Contrast for Unsupervised Visual Representation Learning

贡献

• 对MoCo采用了SimCLR的几个设计改进：1)使用MLP投影头替代fc头；2)使用更多的数据增强方法，在较小的batchsize情况下，获得了更好的基准方法。

本文的方法

上图主要显示了simCLR这种端到端的方法跟MoCo的区别。

• 探讨温度系数及有无MLP的影响

  

• 消融实验

  

• 与SimCLR的比较

  

• 计算成本