三元组损失函数

480 阅读1分钟

在深度学习中,最重要的几个要素是:数据,算力,网络结构,损失函数。 损失函数loss对神经网络最直观的影响就是,通过计算损失函数loss反传梯度来实现对模型参数的更新,不同的损失函数loss可以使模型更加侧重于学习到数据某一方面的特征,并在之后能够更好地提取到这一独有的特征,因此损失函数loss对于网络优化有导向性的作用。 损失函数通常是计算预测的结果和真实结果之间的差异,引导网络做出更准确的预测。对于不同的深度学习任务,使用一个恰当的损失函数是很有必要的。

损失函数分为两大类,基于度量学习的和基于分类的。

度量学习主要有triplet_loss,分类学习主要有softmax_loss。

深度度量学习(deep metric learning)是度量学习的一种方法,它的目标是学习一个从原始特征到低维稠密的向量空间(称之为嵌入空间,embedding space)的映射,使得同类对象在嵌入空间上使用常用的距离函数(欧氏距离、cosine距离等)计算的距离比较近,而不同类的对象之间的距离则比较远。