项目地址:github.com/tbphp/gpt-l…
如果对你有用,辛苦点个Star吧。
简单说下,能干啥:
支持多个渠道类型(OpenAI,Gemini,Anthropic)的Key池轮询代理服务。
现在Gemini的免费Key又恢复了gemini-2.5-pro可用额度,马上去搞点Key,一键部署起来爽用!
如果你有很多硅基或者其他渠道的Key,也可以用这个项目来方便的管理多Key。
一个高性能、企业级的 AI 接口透明代理服务,专门为需要集成多种 AI 服务的企业和开发者设计。采用 Go 语言开发,具备智能密钥管理、负载均衡和完善的监控功能,专为高并发生产环境而设计。
详细请查看 官方文档。
功能特性
- 透明代理: 完全保留原生 API 格式,支持 OpenAI 和 Google Gemini 等多种格式(持续扩展中)
- 智能密钥管理: 高性能密钥池,支持分组管理、自动轮换和故障恢复
- 负载均衡: 支持多上游端点的加权负载均衡,提升服务可用性
- 智能故障处理: 自动密钥黑名单管理和恢复机制,确保服务连续性
- 动态配置: 系统设置和分组配置支持热重载,无需重启即可生效
- 企业级架构: 分布式主从部署,支持水平扩展和高可用
- 现代化管理: 基于 Vue 3 的 Web 管理界面,直观易用
- 全面监控: 实时统计、健康检查、详细请求日志
- 高性能设计: 零拷贝流式传输、连接池复用、原子操作
- 生产就绪: 优雅关闭、错误恢复、完善的安全机制
Docker 快速开始
docker run -d --name gpt-load \
-p 3001:3001 \
-e AUTH_KEY=sk-123456 \
-v "$(pwd)/data":/app/data \
ghcr.io/tbphp/gpt-load:latest
# 使用 sk-123456 登录管理界面:http://localhost:3001
还支持Claw Cloud快速部署,Docker Compose及源码部署。
更多部署方式和使用方法情参考 官方文档。