奔四创业做PanelAI:子服务器集群 + 一键脚本部署,AI时代真正的本地AI算力管理面板

23 阅读3分钟

昨天又肝了一整天,白天帮公司做活动策划(纯体力活),晚上拉着团队把PanelAI的子服务器模块开到凌晨12点。今天累到不行,但还是想把昨天讨论的核心内容整理出来,跟大家聊聊这个项目的真实进展和底层思考。

PanelAI不是又一个运维面板(1Panel、宝塔那种管网站的),而是专为AI时代设计的服务器管理中控,目标是把ComfyUI、Stable Diffusion、各种大模型、本地Embedding、RAG等AI项目统一管理起来,支持多机集群权限隔离内网封闭部署。

昨天会议主要聚焦两个大方向:

  1. 服务器版彻底抛弃桌面版思路
    • AIStarter是个人桌面一键包,PanelAI是服务器端
    • 核心目标:一键脚本完成环境+项目全自动部署
    • 支持原生安装Docker 两种方式
    • 未来可能一个命令就部署好ComfyUI、SD、Ollama、AnythingLLM等
    • 整合包作为兜底方案(针对复杂依赖项目)
  2. 子服务器(多机集群)管理 —— 目前最重磅的功能
    • 支持A/B/C/D 多台子服务器动态扩展
    • 主控PanelAI统一调度:A机跑图像生成,B机跑LLM推理,C机跑训练/微调
    • 首次部署会弹出一键安装 Python、NVIDIA驱动、CUDA 等基础环境
    • 项目可绑定域名、可设置端口对外开放、可控制访问权限
    • 支持在线拉取模型、模型列表统一管理
    • 前端展示开关:决定是否对外暴露WebUI

为什么要做这个? 因为我们发现:

  • 大厂忙着卷通用大模型,没人做细分工具
  • 大量个人/小团队/工作室急需本地化AI算力管理,但没有趁手的系统
  • 在线服务再好,数据隐私长期稳定性始终是硬伤
  • 律师事务所、设计工作室、代码研发部门、知识产权相关业务、涉密项目……根本不敢把敏感数据扔到云端

PanelAI的好处:

  • 所有代码、模型、数据都在自己服务器
  • 可完全内网化(Tailscale、ZeroTier、甚至物理隔离)
  • 不同团队、不同项目可分配不同子服务器,权限清晰
  • 开源版也会放出,社区共建

熊哥还分享了一段很真实的创业心路: 最惨的时候被坑掉200万,身上剩不到100块,还带老婆去吃了最后一顿麦当劳。 后来老婆直接把最后5万保命钱给他,说“你去闯”。 结果做AI方向后很快就回血了,连那5万都没动。 他说:“只要我觉得是对的,哪怕做成一坨屎也是开始。”

目前PanelAI界面还很粗糙,但大方向已经基本定型,先跑通主流程,再慢慢打磨细节。预计第一个可用的开源版本不会太远。

欢迎留言讨论:

  • 你现在是怎么管理多台AI服务器的?
  • 最希望PanelAI解决你哪块痛点?
  • 你会为本地AI管理面板付费/赞助吗?

项目持续更新中,感兴趣的可以关注后续进度。

国产AI基础设施,一起冲!