大语言模型

Ollama是一个基于Go和C/C++混合开发的本地大模型运行框架，专注于简化大语言模型的本地化部署和运行，让开发者能够低成本探索大语言模型的能力。

为了进一步学习Ollama底层机制，方便代码分析、问题调试，本文将简单介绍在Linux环境下源码编译Ollama的全流程，整个编译过程在没有GPU的设备上运行，只编译纯CPU的Ollama版本。

Ollama可以在本地机器上快速部署和运行大语言模型。Ollama提供对模型量化的支持，可以显著降低显存要求，使得在普通计算机上运行大型模型成为可能。

DeepSeek（深度求索）全称杭州深度求索人工智能基础技术研究有限公司，是一家专注于通用人工智能（AGI）与大型语言模型（LLM）的创新型科技公司