37K Star 的 GitHub 开源项目开放 AI 网关,10 人团队免费用。

0 阅读3分钟

之前介绍过一个开源项目,叫 1Panel。

它是一款 Linux 服务器管理工具。

可以通过网页控制台来搭建网站、安装应用、管理数据库、部署 AI 应用和做备份,减少手动输入命令的操作。

这次,1Panel 开放了AI 网关的独立部署能力。

10 人及以下团队可以免费使用。

接入后,团队使用的不同模型可以放在一起管理。

给成员分配访问权限,给应用设置用量配额、调整模型调用,都可以在网关里完成。

01

团队接入网关,网关再连接模型

当你的团队接入了这个开源项目来管理 AI 模型,接入后的调用关系是:

团队的 AI 应用 → 1Panel AI 网关 → 云端模型或本地模型

公司的管理员先把模型资源配置到网关中,再给应用分发网关的访问地址和密钥。

比如团队在 DeepSeek 官方、腾讯云 TokenHub 都买了套餐。

这些 AI 大模型供应商的原始密钥可以在网关侧集中管理。

然后往下分发给团队里面的人。

地址:https://github.com/1Panel-dev/1Panel

下面以一个假设的 8 人团队为例。同事各自用 AI,权限和用量统一管理

同事用 AI 写文案、整理资料、辅助编程,可以在各自熟悉的工具里操作。

对于支持兼容接口、允许自定义模型地址和密钥的工具,接入 1Panel AI 网关后,就能集中管理这些调用。

给不同成员分配权限。

每人使用自己的密钥,管理员按用户组设置可用模型和配额。

人员离职或密钥泄露时,单独停用对应密钥就行了。

按任务分配模型。

配置智能路由后,可以让简单的整理、提取任务优先使用成本较低的模型,复杂任务再交给能力更强的模型。

看清每个人的用量。

网关可以查看每个人的调用次数和模型用量,帮助负责人了解谁用得多、主要用了哪些模型,再据此调整配额。

02

两种部署方式

已经在使用 1Panel 的团队,可以进入应用商店,搜索 1Panel AI 网关,按页面提示安装。

也可以通过官方 Docker 镜像独立部署。

这种方式需要准备能够运行 Docker 的服务器,并由熟悉服务器配置的成员操作:

docker run --pull always -d \
  --name 1panel-ai-gateway \
  --restart unless-stopped \
  -p 8080:8080 \
  -v /opt/ai-gateway:/opt/ai-gateway \
  1panel/ai-gateway

首次启动后,通过日志查看管理员临时密码:

docker logs 1panel-ai-gateway

首次登录后应修改临时密码。

官方建议将 8080 端口的访问限定在可信内网,正式使用时配置 HTTPS 反向代理,通过加密连接访问服务。

安装完成后,可以先接入一个调用情况比较熟悉的应用,给它分配独立密钥,设置可用模型和配额。

运行一段时间,确认调用正常、统计记录能帮助排查问题,再逐步接入其他应用。