SD
5篇文章 · 0订阅
  • LoRA微调语言大模型的实用技巧
    目前，微调定制化LLM会耗费工程师的大量时间和精力，而选择合适的微调方法以及掌握相关技巧可以做到事半功倍。
    人工智能 深度学习
  • LoRA：语言模型微调的计算资源优化策略
    随着数据量和计算能力的增加，大模型的参数量也在不断增加，同时进行大模型微调的成本也变得越来越高。全参数微调需要大量的计算资源和时间，且在进行切换下游任务时代价高昂。 本文作者介绍了一种新方法 LoR
    人工智能 LLM AIGC
  • 如何从头开始编写LoRA代码，这有一份教程
    LoRA（Low-Rank Adaptation）作为一种用于微调 LLM（大语言模型）的流行技术，最初由来自微软的研究人员在论文《 LORA》中提出。
    人工智能 AIGC LLM
  • 论文笔记：LoRA: Low-Rank Adaptation of Large Language Models
    导语 本文介绍了学术界在资源不富裕的情况下能够玩得起大模型的一种方式：LoRA，该技术可以大大优化大模型Fine-tune所需的算力资源，最近颇受关注。 会议：ICLR 2022 链接：https:/
    人工智能 NLP 深度学习
  • LoRA原理与实现--PyTorch自己搭建LoRA模型
    在AIGC领域频繁出现着一个特殊名词“LoRA”，听上去有点像人名，但是这是一种模型训练的方法。LoRA全称Low-Rank Adaptation of Large Language Model
    算法