AI
2篇文章 · 0订阅
  • 大模型量化技术原理-SmoothQuant
    近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。 模
    LLM
  • 五分钟让你本地部署一个 DeepSeek （快速指北）
    前言 为什么会写这篇文章，原因有二： 最近看到 TB 上面这个教程竟然卖 19.9 元，卖了近百万。于是我做了一个违背xx的决定!!! 还有一个原因是，最近这个 deepseek 被攻击之后，总是报
    前端 人工智能 DeepSeek
    五分钟让你本地部署一个 DeepSeek （快速指北）