根据论文的情况,梳理下自己在看和分析的推荐系统和 LLM 相结合的论文和开源代码情况,后面计划再进行分类整理。
欢迎点赞,收藏,一键三连。
主流推荐场景
目前主流的推荐场景,主要有如下的一些推荐场景:
Top-K 推荐,既给用户推荐 k 个可能感兴趣的物品。
评分预测,对于给定的物品,预测用户对这个物品的喜好,等价于 CTR 预估任务。
对话推荐,根据用户和推荐系统的历史对话信息,去推荐当前用户可能喜好的物品。
可解释性推荐,在给用户推荐物品的时候,同时给出推荐理由。
相关方法
根据是否会微调大模型,可以分为提示词方法,微调方法。
提示词方法,通过构建和优化提示词模板,去进行推荐,一般包含 ICL(上下文学习能力)、COT(chain of thought)、conventional prompt这几种方式。更细分的,也可以用 AI Agent、API call of Tools、Data Augmentation、Data Refinement。
微调方法,包括提示词微调和指令微调两种,从目前主流的论文来看,主要是使用 T5、GPT2、LLama 等开源模型去做微调,目前也有一些微调和提示词方法相结合的论文。
总的来说,目前还处于探索阶段,从实际的效果来看,和真正 SOTA 的模型还有一定的距离。另外,由于 GPT4 的 API 相对昂贵,很多论文实际上只取了很少一部分数据进行实验。
因此,这个方向还是值得探索和投入的。而且随着,最近豆包、千问以及百度大模型 API 的成本进一步下降,高性能开源 Llama3、Qwen2 模型的出现,使得本地部署调用大模型变得更加简单,因此后续这个领域应该会出现很多精彩的论文,当然也更卷了。
论文
1、Recommender Systems in the Era of Large Language Models (LLMs)
2、Recommender AI Agent: Integrating Large Language Models for Interactive Recommendations
3、Uncovering ChatGPT’s Capabilities in Recommender Systems
4、Large Language Models are Zero-Shot Rankers for Recommender Systems
5、Large Language Models as Zero-Shot Conversational Recommenders
6、Incorporating External Knowledge and Goal Guidance for LLM-based Conversational Recommender Systems