对比学习
Contrastive Learning
通过让相似的样本靠近、不相似的远离来学习表示。
先用人话理解
把同一张图的不同裁剪版当作「应该像」,把不同图当作「应该不像」,模型在这种对比中学会抓住本质特征。
为什么重要
对比学习是 CLIP 等图文对齐模型的核心机制,也是自监督视觉表示学习的重要方法。
常见误解
对比学习只用于图像
对比学习不需要任何标签
对比学习与度量学习无关
Contrastive Learning
通过让相似的样本靠近、不相似的远离来学习表示。
把同一张图的不同裁剪版当作「应该像」,把不同图当作「应该不像」,模型在这种对比中学会抓住本质特征。
对比学习是 CLIP 等图文对齐模型的核心机制,也是自监督视觉表示学习的重要方法。
对比学习只用于图像
对比学习不需要任何标签
对比学习与度量学习无关