首页
沸点
课程
数据标注
HOT
AI Coding
更多
直播
活动
APP
插件
直播
活动
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
登录
注册
本地推理平台OpenVitamin
Tony沈哲
创建于2026-03-27
订阅专栏
OpenVitamin 的架构、设计、使用场景
暂无订阅
共2篇文章
创建于2026-03-27
订阅专栏
默认顺序
默认顺序
最早发布
最新发布
OpenVitamin 整体架构设计—— 一个本地 AI 推理平台是如何构建的
本文详细介绍了一个本地 AI 推理平台 OpenVitamin 的整体架构设计,以及它是如何构建的。
AI 正在进入本地时代,我开源了一个推理平台—— 支持多模型 / Agent / Workflow 的工程实现
AI 正在从能力变成基础设施。而本地 AI,可能会成为下一代开发环境的一部分。我们基于开源架构自主研发一套本地大模型部署与智能体管理平台,并把它开源了。