这篇只讲配置,不聊选型之争。
前提:网关要同时吃 OpenAI 兼容和 Anthropic 兼容两种格式,否则 Claude Code 这类客户端会直接报协议错误。我一般先用一个最小请求把格式验证一遍:
# OpenAI 兼容格式
curl https://网关地址/v1/chat/completions \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{"model":"gpt-5.4","messages":[{"role":"user","content":"hi"}]}'
# Claude(Anthropic) 兼容格式
curl https://网关地址/v1/messages \
-H "x-api-key: $KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{"model":"claude-sonnet-4-6","max_tokens":64,"messages":[{"role":"user","content":"hi"}]}'
常见客户端的改法:
- Cherry Studio / LobeChat / ChatGPT-Next-Web:在服务商设置里把 API 地址填成
https://网关地址,密钥填网关签发的令牌。 - LangChain / OpenAI SDK:
base_url换成https://网关地址/v1。 - Claude Code / Codex:按各自文档设置自定义端点环境变量,指向网关的 Anthropic / OpenAI 兼容路径。
- 配置文件里别写死模型名:把 model 抽成配置项,方便在模型广场里换更便宜或更新的型号。
两个容易忽略的点:
- 先看模型广场再写代码。同一个模型在不同分组下倍率不同,还有按时段或阶梯计费的,照着公开价格选能省不少。
- 给令牌设额度上限和过期时间。网关侧可以为每个 Key 单独设限,比在代码里做保护省事。
我自己在用的是 tokenmesh.online(个人向,注册有赠送额度),模型广场 140 多个模型、价格公开,注册送的额度够把上面这套验证跑完。团队场景(按部门分配额度、成本分析、审计、对公充值)走 pleni.tech。具体端点和模型名以各自站内文档为准。
利益相关说明:本文提及的两个站点与作者有推广合作关系,按平台规则在此说明。模型上下架、分组倍率与活动价格变动频繁,文中数字、模型名与链接请以站内「模型广场」和「系统公告」的实时信息为准。
有在用别的客户端的,欢迎在评论区补充配置片段,我整理进仓库。