开启掘金成长之旅!这是我参与「掘金日新计划 · 12 月更文挑战」的第22天,点击查看活动详情
论文--[1] Zhao Y , Zhong Z , Yang F , et al. Learning to Generalize Unseen Domains via Memory-based Multi-Source Meta-Learning for Person Re-Identification[J]. CVPR,2020.
摘要
现有的大多数方法都需要通过访问数据来训练新领域的新模型。由于公共隐私,新的领域数据并不总是可访问的,导致这些方法的适用性有限。在本文中研究ReID中的多源域泛化问题,其目的是学习一个模型,该模型可以在只有几个标记源域的不可见域上运行良好。为了解决这个问题,本文提出了基于记忆的多源MetalLearning(M3L)框架来训练未知领域的通用模型。具体来说,为了学习更多的可泛化模型,引入了元学习策略来模拟领域泛化的训练测试过程。为了克服由参数分类器引起的不稳定元优化,我们提出了一种基于记忆的非参数识别丢失方法,该方法与元学习相协调。本文还提出了元批量标准化层(MetaBN),以使元测试功能多样化,进一步确立元学习的优势。
贡献
提出了一个多源DG的多源元学习框架,该框架可以模拟DG在训练过程中的测试过程。本文方法使模型能够学习领域不变表示,从而提高了泛化能力
为框架配备了一个基于记忆的模块,该模块以非参数方式实现了识别损失,并且可以防止在元优化过程中由传统参数方式导致的不稳定优化
提出MetaBN来生成各种元测试特征,这些功能可以直接注入meta-learning框架,并获得进一步的改进。
方法
本文设计了一种基于记忆的多源元学习(M3L)框架,用于多源领域泛化(DG)的个人ReID任务。在该框架中,引入一种元学习策略,在模型优化过程中模拟DG的训练-测试过程。
具体地说,每次迭代中将源域动态地分割成元训练和元测试。在训练过程中,首先复制原始模型,并用元训练数据中的损失对其进行更新。然后使用更新后的模型计算元测试损失。采用基于记忆的身份损失和三元组损失进行有效的元学习。还注入了元批处理规范化层(MetaBN)从而使元测试的特征更加多样化,从而进一步促进元学习的效果。最后,结合元训练和元测试损失,将原始模型向一个可泛化的方向更新,使其在元训练和元测试域上表现良好。
实验
数据集:Market-1501, DukeMTMC-reID, CUHK03和MSMT17
多源DG:三个域作为训练的源域,另一个作为测试的目标域
骨干网络:ResNet-50和IBN-Net50
图片:256*128,训练批大小64
训练:60epoch
结果: