论文题目:C2-CRS: Coarse-to-Fine Contrastive Learning for Conversational Recommender System[1]
论文来源:WSDM2022
代码地址:C2-CRS
一、Motivation
对话推荐系统(Conversational Recommender System (CRS))旨在通过对话为用户提供高质量的商品推荐。生成式对话推荐一般包含两个模块:对话模块使用自然语言和用户交流,推荐模块基于对话内容学习用户兴趣偏好,提供高质量商品推荐。不同于传统推荐任务,对话推荐需要兼顾自然语言理解和用户兴趣建模。
A major technical issue is how to accurately infer user preference from very limited conversation context.
指出当前存在的问题:如何从有限的对话上下文中准确地推断用户的喜好
Prior studies mainly focus on designing fusion models tailored for some specific type of external data, which is not general to model and utilize multi-type external data.
指出先前工作的不足:主要集中于设计从外部数据中抽取一些具体的数据用于建模,很难在面对多类型数据时做到一般化
We first extract and represent multi-grained semantic units from different data signals, and then align the associated multi-type semantic units in a coarse-to-fine way.
指出本工作的做法:首先从不同的数据信号中抽取并表示一个多粒度的语义单元,之后以一种粗到细的方式对齐这种联合的多类型语义单元
二、Model
其模型结构比较简单,其数据源(输入)由三部分组成,分别为对话、知识图、评论;使用不同的编码器进行编码,得到三个表示,然后两两进行对比(这是一种细粒度的对比),然后将三个表示分别通过一个自注意力模块得到粗粒度的表示,再进行两两对比(这是一种粗粒度的对比)。这里利用了一个多源信息,利用了不同的模型的一种集成方法。
三、Data&Experments
数据集使用了REDIAL、TGREDIAL,两个都是对话推荐常用的数据集
四、Performance
因为是改论文面向对话推荐,所以其主要需要完成两个任务,对话和推荐。下面两张表分别是其在推荐任务上和对话任务上的实验结果。结果表明了其较于当前最优模型的优越性。
五、Ablation Study
从下表可以看出,对比最下面三条数据与第一条数据可以得知其附加的三种源信息(对话、知识图谱、评论)中,对话是最重要的(去掉对话之后效果变为0.048,下降较多,符合直观理解),另外只需要两种信息就可以达到优于最强baseline的效果(可见对比学习的好处,对比第一二条数据也可以发现去掉对比学习,效果下降巨大);对比前面四条数据可以看出对比学习中细粒度与粗粒度的作用是差不多的,可以看出多加对比板块其提升并不一定就明显,甚至不提升;去掉多任务,其效果没有下降很多,可以看出其多任务学习板块也不是其主要作用。综上,其核心在于利用多源信息+对比学习的组合才导致模型的提升较大。
六、Conclusion
对于一个单一任务而言,在其存在不同的数据源的情况下可以通过集成学习的方法充分利用不同的数据源来辅助主任务的学习。最简单直接的方法就是像本文一样利用不同的编码器对不同的数据源进行编码得到不同的表示,然后利用对比学习来辅助主任务(推荐和对话)。还有就是可以利用不同的数据源做预测任务(知识图谱的预测、评论的预测等)或者辅助主任务正负样本的构造(K近邻算法)等
七、References
[1] Yuanhang Zhou and Kun Zhou and Wayne Xin Zhao and Cheng Wang and Peng Jiang and He Hu.2022.arxiv:arxiv.org/abs/2201.02…
[2] Raymond Li, Samira Ebrahimi Kahou, Hannes Schulz, Vincent Michalski, Laurent Charlin, and Chris Pal. 2018. Towards Deep Conversational Recommendations.(2018), 9748–9758.
[3] Kun Zhou, Yuanhang Zhou, Wayne Xin Zhao, Xiaoke Wang, and Ji-Rong Wen. 2020. Towards Topic-Guided Conversational Recommender System. In Proceedings of the 28th International Conference on Computational Linguistics. 4128–4139