MAI Gateway接入指南:API网关怎么部署?5分钟快速上手

0 阅读7分钟

"5分钟上手"不是口号,是真的只要5分钟——前提是网关已经部署完成(参考私有化部署全攻略)。本文从登录管理后台那一刻开始计时,到应用发出第一个成功调用为止,把每一步压到秒级。

应用侧只需要做两件事——改两个参数——就能让存量应用立即走通MAI Gateway。所有改动的核心是OpenAI兼容协议:替换Base URL + 替换API Key,业务代码一行不动。

一、计时开始:登录管理后台(30秒)

打开浏览器访问 http://<your-gateway>:8080,使用管理员账号登录。首次登录需要:

  1. 输入初始管理员账号(部署时运维提供)
  2. 修改默认密码(强制要求)
  3. 进入「模型目录」页面

这一步验证的是网关进程状态——如果能正常登录,说明服务正常、数据库连接正常、管理后台渲染正常。

二、第1分钟:开通模型(60秒)

在「模型目录」页面启用业务要用的模型:

✓ Qwen-Max        启用     256K上下文    复杂推理
✓ Qwen-Fast       启用     128K上下文    低成本
✓ DeepSeek-V4     启用     256K上下文    代码生成
✓ GLM-5.1         启用     128K上下文    国产合规
✓ Kimi K2.6       启用     512K上下文    超长文档
✓ MiniMax M2.5    启用     256K上下文    长上下文

操作:每行点"启用"即可。后台会自动同步上游配置到所有网关节点(集群版秒级生效)。

这一步验证的是上游连通性——启用过程中如果报错"上游连接失败",说明网关到模型供应商的网络有问题,需要运维检查防火墙和出网白名单。

三、第2分钟:创建项目并分配密钥(90秒)

在「组织管理」→「项目」中创建第一个项目:

字段填写示例说明
项目名称智能客服项目唯一标识
部门归属客服中心用于预算分摊
默认配额500,000 Token/月起步保守,后续按需调
模型范围全部启用模型限制可见模型范围可收紧

创建完成后立即生成密钥:

项目:智能客服
密钥:sk-mai-prod-cs-a3f9b2c8d7e6
显示:sk-mai-prod-cs-a3f●●●
权限:仅本项目 · 全部模型
配额:500,000 Token/月 · 80%提醒 · 100%熔断

密钥只在创建时完整展示一次,立即复制保存。

这一步验证的是RBAC和配额体系——密钥已绑定到具体项目,所有调用会自动归集到这个部门的预算。

四、第3分钟:改造应用(90秒)

存量应用原本直接调用大模型API(如OpenAI),现在改为走MAI Gateway。改动只有两处

改造前(直连OpenAI)

from openai import OpenAI

client = OpenAI(
    api_key="sk-prod-openai-xxxxx",     # OpenAI密钥
    base_url="https://api.openai.com/v1"
)

改造后(走MAI Gateway)

from openai import OpenAI

client = OpenAI(
    api_key="sk-mai-prod-cs-a3f9b2c8d7e6",   # MAI Gateway密钥(仅改这一行)
    base_url="http://your-gateway:8080/v1"    # 网关地址(改Base URL)
)

response = client.chat.completions.create(
    model="qwen-max",                          # 可用模型名从网关模型目录获取
    messages=[{"role": "user", "content": "..."}]
)

两处改动

  • api_key:从OpenAI密钥换成MAI Gateway分配的密钥
  • base_url:从OpenAI地址换成MAI Gateway地址

业务代码、消息格式、调用逻辑全部不变。这就是OpenAI兼容协议的红利——存量应用5分钟内切换到企业级AI网关,不依赖任何框架重写。

这一步验证的是OpenAI兼容接入——如果应用改造后调用失败,最常见的原因不是协议不兼容,而是Base URL写错或模型名拼错。

五、第4分钟:第一次调用验证(60秒)

在终端用curl做一次冒烟测试,确认网关工作正常:

curl -X POST http://your-gateway:8080/v1/chat/completions \
  -H "Authorization: Bearer sk-mai-prod-cs-a3f9b2c8d7e6" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-max",
    "messages": [{"role": "user", "content": "你好"}]
  }'

预期返回

{
  "id": "chatcmpl-...",
  "object": "chat.completion",
  "created": 1725432100,
  "model": "qwen-max",
  "choices": [
    {
      "message": {"role": "assistant", "content": "你好!"},
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 5,
    "completion_tokens": 4,
    "total_tokens": 9
  }
}

冒烟测试通过的两个关键信号

  • HTTP 200响应
  • 返回JSON包含usage字段(Token消耗已记录)

这一步验证的是端到端可用性——从密钥鉴权→配额校验→上游路由→调用成功→Token计量,全链路通畅。

六、第5分钟:查看调用流水(30秒)

回到管理后台「实时大盘」,应该看到刚才那条冒烟测试的调用记录:

14:32:08.518  客服/智能助理  sk-mai-prod-cs-a3f●●●  qwen-max  9 Token  486ms  ● SUCCESS

5个字段确认全链路通畅

  • 时间:调用发生时刻
  • 项目:智能助理(密钥自动绑定到项目)
  • 密钥:sk-mai-prod-cs-a3f●●●(脱敏显示)
  • 模型:qwen-max(网关路由到的实际模型)
  • Token:9(包含输入输出)
  • 状态:SUCCESS

这一步验证的是审计体系——调用日志已经按"人·项目·密钥·模型·时间"全维度留痕,月末可以直接归集到部门预算。

七、计时结束:5分钟回顾

分钟步骤验证点
第0-30秒登录管理后台网关进程正常
第1分钟启用模型上游连通
第2分钟创建项目+密钥RBAC+配额生效
第3分钟应用改造(两行)OpenAI兼容接入
第4分钟冒烟测试端到端可用
第5分钟查看调用记录全链路审计

5分钟结束,应用已经接入了企业级AI网关。所有大模型调用现在都自动:

  • 走MAI Gateway的鉴权、配额、审计
  • 按部门/项目分摊Token消耗
  • 记录到全链路日志
  • 享受七级配额80%提醒→95%告警→100%熔断的预算管控

八、上手后第一周要做的三件事

5分钟是入门,第1周才是真正发挥价值的时候:

第1件事:把其他存量应用迁移过来

存量应用分三类,分别处理:

  • 直连OpenAI:改两个参数,5分钟迁移
  • 直连Anthropic/Google:同样OpenAI兼容,改Base URL + API Key(Anthropic需用网关的兼容映射模型名)
  • 用Dify/Cherry Studio等工具:在工具设置里把Base URL改成网关地址,API Key填网关密钥

第2件事:根据业务难度配置路由

不路由调度的网关等于没接。入门第一天按默认路由跑通,第二周开始调:

  • 简单任务(短文本客服):Qwen-Fast
  • 复杂推理(多步骤分析):Qwen-Max
  • 代码任务(开发助手):DeepSeek-V4
  • 长文档(合同分析):Kimi K2.6

第3件事:把部门预算设到合理值

网关默认保守配额(每项目50万Token),第一周观察真实消耗:

  • 客服类:日均1-3万Token属正常
  • 营销类:日均5-10万Token(含批量生成)
  • 研发类:日均3-8万Token(含代码生成)

月底做预算审计:超出80%触发告警的项目,分析是配额设小还是真有异常调用。

九、5分钟上手的常见错误排查

现象原因解决方法
curl返回401密钥错误或网关未识别确认密钥复制完整,无空格
curl返回403密钥配额耗尽或模型不在权限范围检查配额用量、模型启用状态
curl返回404Base URL路径错误确认Base URL以/v1结尾
curl返回500上游连接失败检查网关到上游供应商的网络
调用成功但Token为0模型名拼写错误,回退到默认检查model参数是否在模型目录

结语

5分钟快速上手的本质:把企业级AI治理能力压成两个参数改动

应用侧改两行(Base URL + API Key),业务代码完全不动,立即获得——鉴权、配额、路由、审计、安全、计费六项治理能力。这正是OpenAI兼容协议的价值:让治理的复杂度从应用侧迁移到网关侧。

接入只是开始。第1个月用好路由和配额,第3个月跑通月末归集报表,第12个月Token进入财务预算——这是从"用起来"到"管起来"的完整路径。5分钟解决接入问题,5个月解决治理问题