LLMs
3篇文章 · 0订阅
  • 基于 NVIDIA Megatron-Core 的 MoE LLM 实现和训练优化
    本文将分享阿里云人工智能平台 PAI 团队与 NVIDIA Megatron-Core 团队在 MoE (Mixture of Experts) 大型语言模型（LLM）实现与训练优化上的创新工作。
    机器学习 LLM
  • 用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM
    众所周知，LLM 规模庞大，如果在也能消费类硬件中运行或训练它们将是其亲民化的巨大进步。我们之前撰写的 LLM.int8 博文 展示了我们是如何将 LLM.int8 论文 中的技术通过 bitsand
    人工智能 AIGC LLM
  • 重新思考终端 LLMs 和 Agents
    LLM 和 Agent 如火如荼，有哪些用途？当此之时，终端将何往？如何发挥终端优长？笔者给出了自己的预判和建议。
    LLM 客户端 人工智能