本地推理平台OpenVitamin

本文详细介绍了一个本地 AI 推理平台 OpenVitamin 的整体架构设计，以及它是如何构建的。

AI 正在从能力变成基础设施。而本地 AI，可能会成为下一代开发环境的一部分。我们基于开源架构自主研发一套本地大模型部署与智能体管理平台，并把它开源了。