大语言模型

大语言模型

大语言模型

Large Language Model（LLM）相关的笔记、博客、代码资源整理

等 9 人订阅共44篇文章创建于2023-04-21

论文笔记：LoRA: Low-Rank Adaptation of Large Language Models

导语本文介绍了学术界在资源不富裕的情况下能够玩得起大模型的一种方式：LoRA，该技术可以大大优化大模型Fine-tune所需的算力资源，最近颇受关注。会议：ICLR 2022 链接：https:/

2年前
2.7k
5
1

论文笔记：Self-Instruct: Aligning Language Model with Self Generated Instructions

导语本文介绍了如何使用LLM来大规模自动生成instruction。实验结果表明，这种数据增强方式非常有效，接下来就让我们看看具体是怎么做的吧。会议：Arxiv 链接：https://arxiv.

2年前
6.3k
6
2

Alpaca：一个健壮、可复现的指令调优模型

本文正在参加「金石计划」导语上篇博客介绍了Meta AI发布的开源大型语言模型LLaMA，本文介绍斯坦福的研究人员在LLaMA基础上基于指令微调（Instruction-tuning），仅使用约

2年前
1.7k
6
2

论文笔记：LLaMA: Open and Efficient Foundation Language Models

导语随着ChatGPT的爆火，大语言模型逐渐成为了研究热点，然而过去的大部分工作中的大语言模型LLM都是闭源的，仅提供API有偿调用，本文介绍了最近MetaAI开源的大语言模型LLaMA。会议：A

2年前
2.0k
7
2

论文笔记：LLaMA: Open and Efficient Foundation Language Models