Improving Contrastive Learning by Visualizing Feature Transformation
Published:
目前正负样本的构造和选择大部分还是采用数据增强，依赖于人的经验和直觉，可能并不是有效的，也缺少可解释性。
本文在特征层面进行data manipulation来提供更加explainable和effective的正负样本。 首先，观察训练过程中anchor/positive以及anchor/negative对之间的相似度变化 然后，通过改变MoCo中的momentum值，观察相似度变化对性能的影响 最后基于上述观察，提出针对正样本的extrapolation操作和针对负样本的interpolation操作。
实际上作者说了一堆，在代码层面具体只是改动了InfoNCE loss的计算公式。