lanssi

赞

1

|

搜索文章

赞

文章( 1 ) 沸点( 0 )

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

众所周知，LLM 规模庞大，如果在也能消费类硬件中运行或训练它们将是其亲民化的巨大进步。我们之前撰写的 LLM.int8 博文展示了我们是如何将 LLM.int8 论文中的技术通过 bitsand

HuggingFace
1年前
1.2k
13
评论

个人成就

文章被点赞 4

文章被阅读 1,663

加入于

2023-09-07