昨天又肝了一整天,白天帮公司做活动策划(纯体力活),晚上拉着团队把PanelAI的子服务器模块开到凌晨12点。今天累到不行,但还是想把昨天讨论的核心内容整理出来,跟大家聊聊这个项目的真实进展和底层思考。
PanelAI不是又一个运维面板(1Panel、宝塔那种管网站的),而是专为AI时代设计的服务器管理中控,目标是把ComfyUI、Stable Diffusion、各种大模型、本地Embedding、RAG等AI项目统一管理起来,支持多机集群、权限隔离、内网封闭部署。
昨天会议主要聚焦两个大方向:
- 服务器版彻底抛弃桌面版思路
- AIStarter是个人桌面一键包,PanelAI是服务器端
- 核心目标:一键脚本完成环境+项目全自动部署
- 支持原生安装 和 Docker 两种方式
- 未来可能一个命令就部署好ComfyUI、SD、Ollama、AnythingLLM等
- 整合包作为兜底方案(针对复杂依赖项目)
- 子服务器(多机集群)管理 —— 目前最重磅的功能
- 支持A/B/C/D 多台子服务器动态扩展
- 主控PanelAI统一调度:A机跑图像生成,B机跑LLM推理,C机跑训练/微调
- 首次部署会弹出一键安装 Python、NVIDIA驱动、CUDA 等基础环境
- 项目可绑定域名、可设置端口对外开放、可控制访问权限
- 支持在线拉取模型、模型列表统一管理
- 前端展示开关:决定是否对外暴露WebUI
为什么要做这个? 因为我们发现:
- 大厂忙着卷通用大模型,没人做细分工具
- 大量个人/小团队/工作室急需本地化AI算力管理,但没有趁手的系统
- 在线服务再好,数据隐私和长期稳定性始终是硬伤
- 律师事务所、设计工作室、代码研发部门、知识产权相关业务、涉密项目……根本不敢把敏感数据扔到云端
用PanelAI的好处:
- 所有代码、模型、数据都在自己服务器
- 可完全内网化(Tailscale、ZeroTier、甚至物理隔离)
- 不同团队、不同项目可分配不同子服务器,权限清晰
- 开源版也会放出,社区共建
熊哥还分享了一段很真实的创业心路: 最惨的时候被坑掉200万,身上剩不到100块,还带老婆去吃了最后一顿麦当劳。 后来老婆直接把最后5万保命钱给他,说“你去闯”。 结果做AI方向后很快就回血了,连那5万都没动。 他说:“只要我觉得是对的,哪怕做成一坨屎也是开始。”
目前PanelAI界面还很粗糙,但大方向已经基本定型,先跑通主流程,再慢慢打磨细节。预计第一个可用的开源版本不会太远。
欢迎留言讨论:
- 你现在是怎么管理多台AI服务器的?
- 最希望PanelAI解决你哪块痛点?
- 你会为本地AI管理面板付费/赞助吗?
项目持续更新中,感兴趣的可以关注后续进度。
国产AI基础设施,一起冲!