开启掘金成长之旅！这是我参与「掘金日新计划 · 12 月更文挑战」的第19天，点击查看活动详情
论文--[1] Dai Y , Li X , Liu J , et al. Generalizable Person Re-identification with Relevance-aware Mixture of Experts[J]. IEEE, 2021.
摘要
领域泛化(DG)行人再识别(ReID)是一个具有挑战性的问题，因为在训练过程中我们无法获取任何不可见的目标域数据。几乎所有现有的DG ReID方法都遵循相同的pipeline，即使用来自多个源域的混合数据集进行训练，然后直接将训练后的模型应用到不可见的目标域进行测试。这些方法往往忽略了单个源域的判别特征及其与不可见的目标域的相关性，尽管这两者都可以用来帮助模型的泛化。为了解决上述两个问题，我们提出了一种新的相关感知专家混合方法(relevance-aware mixture of experts, RaMoE)，该方法利用一种有效的基于投票的混合机制，动态地利用源域的多样性特征来提高模型的泛化能力。具体地说，我们提出了一种解相关(decorrelation)损失，使源域网络(专家)保持单个领域特征的多样性和可判别性。此外，我们设计了一个投票网络，自适应地将所有专家特征集成到更可泛化的具有领域相关性的聚合特征中。考虑到训练过程中目标域的不可见性，我们提出了一种新的学会学习算法，结合我们的关系对齐损失来更新投票网络。大量的实验证明，我们提出的RaMoE方法优于目前最先进的方法。
贡献
（1）提出了一种新的RaMoE方法，利用源域的互补信息和它们与不可见目标域的相关性来解决DG ReID问题。
(2)提出去解相关损失来保持源域的多样性，鼓励源域专家提供更多的互补性和鉴别性信息。
(3)为了提高模型对目标领域的泛化性，提出了一种投票网络，将源领域专家的特征自适应地集成到聚合的特征中。其中，自适应投票网络采用一种新的学会学习方法，利用关系对齐损失对网络进行更新。
方法
第k分支网络作为领域 D_k 的专家，利用度量损失 L_metric 和解相关损失 L_decor 进行学习。使用学会学习算法结合关系对齐损失 L_relation 来更新投票网络。在每个episodic训练迭代中，将K个领域划分为元测试(如 D1 )和元训练(如 {D2，…，DK})。一个元测试图像可以获得K个特征(一个特征来自于它自己的领域专家，K-1个特征来自于元训练领域专家)，以及一个由投票网络获得的查询特征。通过计算元测试查询特征与元训练原型之间的平均相似度，可以得到元测试域与元训练之间的关联。可以通过自适应地将元训练专家特征与相关性相结合来获得加权聚合特征。 〇是利用领域相关性对特征进行加权的操作。提出了关系对齐损失，使加权聚合特征具有与元测试领域特定特征相同的判别力。Σ是特征运算：连接或元素级求和
