1.Focal Loss
focal loss是最初由何恺明提出的，最初用于图像领域解决数据不平衡造成的模型性能问题。本文试图从交叉熵损失函数出发，分析数据不平衡问题，focal loss与交叉熵损失函数的对比，给出focal loss有效性的解释。
- Focal Loss的引入主要是为了解决难易样本数量不平衡（注意，有区别于正负样本数量不平衡）的问题，实际可以使用的范围非常广泛。
- 该损失函数来源于论文Focal Loss for Dense Object Detection，作者利用它改善了图像物体检测的效果。不过Focal Loss完全是一个通用性的Loss，因为在 NLP中，也存在大量的类别不平衡的任务。
- 最经典的就是序列标注任务中类别是严重不平衡的，比如在命名实体识别中，显然一句话里边实体是比非实体要少得多，这就是一个类别严重不平衡的情况。
参考链接：
blog.csdn.net/fly_time201…
zhuanlan.zhihu.com/p/266023273
2.Circle Loss
- 深度特征学习有两种基本范式，分别是使用类标签和使用正负样本对标签进行学习。使用类标签时一般需要用分类损失函数（比如 softmax + cross entropy）优化样本和权重向量之间的相似
