50天独立打造企业级API网关（五）：Kubernetes部署与测试保障
系列文章第5篇（终篇） | 50天手搓Spring Cloud Gateway：44项功能+561测试用例的完整实践
系列导航
- 第一篇：架构设计与动态路由实现
- 第二篇：安全防护体系与性能优化
- 第三篇：弹性设计与限流降级
- 第四篇：全链路可观测性与AI Copilot
- 第五篇：Kubernetes部署与测试保障 <--本篇
- 第六篇：高级路由与负载均衡实战
一、Kubernetes多实例管理
1.1 Kubernetes部署架构
graph TB
subgraph "Kubernetes Cluster"
subgraph "Namespace: gateway-prod"
A[gateway-01 Pod x3]
B[gateway-02 Pod x2]
end
subgraph "Namespace: gateway-staging"
C[gateway-03 Pod x1]
end
D[Nacos]
E[Redis]
F[Prometheus]
end
subgraph "Control Plane"
G[gateway-admin]
H[gateway-ui]
end
G -->|Config Push| D
G -->|Deploy| A
G -->|Deploy| B
G -->|Deploy| C
F -->|Scrape Metrics| A
F -->|Scrape Metrics| B
F -->|Scrape Metrics| C
style A fill:#e1f5ff
style B fill:#e1f5ff
style C fill:#fff4e1
1.2 Namespace隔离实现
每个网关实例有独立的Nacos Namespace，实现配置完全隔离：
@Service
public class InstanceNamespaceCache {
// 实例ID → Namespace映射
private final Map<String, String> instanceNamespaceMap = new ConcurrentHashMap<>();
public String getNamespace(String instanceId) {
return instanceNamespaceMap.computeIfAbsent(instanceId, id -> {
// 生成隔离的Namespace
return "gateway-" + id;
});
}
public void publishConfig(String instanceId, String dataId, String content) {
String namespace = getNamespace(instanceId);
configCenterService.publishConfig(dataId, namespace, content);
}
public String getConfig(String instanceId, String dataId) {
String namespace = getNamespace(instanceId);
return configCenterService.getConfig(dataId, namespace);
}
}
隔离效果：
| 实例 | Namespace | 路由配置 | 服务配置 | 策略配置 |
|---|---|---|---|---|
| gateway-01 | gateway-01 | 独立 | 独立 | 独立 |
| gateway-02 | gateway-02 | 独立 | 独立 | 独立 |
| gateway-03 | gateway-03 | 独立 | 独立 | 独立 |
1.3 心跳监控机制
stateDiagram-v2
[*] --> Starting: 实例创建
Starting --> Running: 心跳正常（3次连续）
Running --> Warning: 心跳超时（1次）
Warning --> Running: 心跳恢复
Warning --> Error: 心跳超时（3次连续）
Error --> Running: 心跳恢复
Error --> [*]: 实例删除
note right of Running
正常运行状态
每10秒发送心跳
end note
note right of Warning
警告状态
1次心跳超时
可能需要关注
end note
note right of Error
错误状态
3次连续心跳超时
实例可能已宕机
end note
心跳检测实现：
@Component
public class HeartbeatMonitor {
private static final long HEARTBEAT_TIMEOUT = 30_000; // 30秒
private static final int WARNING_THRESHOLD = 1;
private static final int ERROR_THRESHOLD = 3;
// 实例ID → 最后心跳时间
private final Map<String, Long> lastHeartbeatMap = new ConcurrentHashMap<>();
// 实例ID → 连续超时次数
private final Map<String, Integer> timeoutCountMap = new ConcurrentHashMap<>();
@Scheduled(fixedRate = 10_000) // 每10秒检查
public void checkHeartbeats() {
long now = System.currentTimeMillis();
for (Map.Entry<String, Long> entry : lastHeartbeatMap.entrySet()) {
String instanceId = entry.getKey();
long lastHeartbeat = entry.getValue();
long elapsed = now - lastHeartbeat;
if (elapsed > HEARTBEAT_TIMEOUT) {
int timeoutCount = timeoutCountMap.merge(instanceId, 1, Integer::sum);
if (timeoutCount >= ERROR_THRESHOLD) {
updateInstanceStatus(instanceId, InstanceStatus.ERROR);
} else if (timeoutCount >= WARNING_THRESHOLD) {
updateInstanceStatus(instanceId, InstanceStatus.WARNING);
}
} else {
timeoutCountMap.put(instanceId, 0);
updateInstanceStatus(instanceId, InstanceStatus.RUNNING);
}
}
}
public void receiveHeartbeat(String instanceId) {
lastHeartbeatMap.put(instanceId, System.currentTimeMillis());
}
}
1.4 资源配置管理
系统预定义4种资源规格，也支持自定义配置：
| 规格 | CPU | 内存 | 适用场景 |
|---|---|---|---|
| small | 0.5核 | 512MB | 开发测试 |
| medium | 1核 | 1GB | 小型生产 |
| large | 2核 | 2GB | 中型生产 |
| xlarge | 4核 | 4GB | 大型生产 |
自定义资源配置：
{
"instanceName": "custom-gateway",
"clusterId": "k8s-prod",
"namespace": "gateway-custom",
"replicas": 3,
"resources": {
"cpu": "1.5",
"memory": "1536Mi",
"cpuLimit": "2",
"memoryLimit": "2Gi"
}
}
1.5 项目截图：Kubernetes管理
图02：Kubernetes集群管理界面。
图06-08：网关实例管理：实例列表（06）、创建实例（07）、实例概览（08）。
二、压力测试工具
2.1 压测工具架构
graph TB
A[用户配置压测]
B[压测引擎]
C[并发请求生成器]
D[结果收集器]
E[实时指标计算]
F[报告生成器]
A --> B
B --> C
C --> D
D --> E
E --> F
G[Prometheus]
H[数据库]
E --> G
E --> H
I[AI Copilot]
F --> I
style B fill:#e1f5ff
style F fill:#fff4e1
style I fill:#e1ffe1
2.2 压测模板
系统内置9个压测模板，覆盖常见测试场景：
| 模板 | 并发数 | 持续时间 | 适用场景 |
|---|---|---|---|
| Light Load | 10 | 30秒 | 功能验证 |
| Medium Load | 100 | 1分钟 | 常规测试 |
| Heavy Load | 1000 | 2分钟 | 性能测试 |
| Spike Test | 500→5000 | 30秒 | 突发流量 |
| Endurance Test | 500 | 10分钟 | 长时间运行 |
| Custom | 自定义 | 自定义 | 灵活配置 |
2.3 压测流程
完整压测流程：
sequenceDiagram
participant U as 用户
participant UI as 前端UI
participant API as StressTest API
participant E as 压测引擎
participant G as Gateway
participant P as Prometheus
U->>UI: 选择压测模板
UI->>API: POST /api/stress-test/start
API->>E: 创建压测任务
E->>E: 初始化并发请求生成器
E->>G: 发送并发请求
E->>P: 实时采集指标
P-->>E: 返回QPS/响应时间/错误率
E->>UI: WebSocket推送实时数据
UI->>U: 展示实时图表
E->>E: 压测完成
E->>API: 保存压测结果
API->>UI: 返回压测报告
UI->>U: 展示完整报告
2.4 项目截图：压测全流程
图42-45：压测配置与执行。快速启动模板（42）、压测配置界面（43）、实时QPS图表（44）、响应时间变化（45）。
图46-49：压测监控与报告。错误率监控（46）、Pod资源使用（47）、压测完成报告（48）、报告导出选项（49）。
三、GC智能诊断与JVM调优
3.1 GC智能诊断
压测完成后，系统自动分析GC行为，给出调优建议：
GC分析维度：
| 维度 | 分析内容 | 建议 |
|---|---|---|
| Young GC频率 | 压测前后对比 | 频率过高→增加年轻代 |
| Full GC次数 | 压测期间Full GC | 出现Full GC→检查内存泄漏 |
| GC开销 | GC时间占比 | >5%→需要优化 |
| 晋升率 | 年轻代→老年代 | 过高→增加年轻代或减少对象创建 |
诊断报告示例：
{
"gcAnalysis": {
"youngGcCount": {
"before": 0,
"during": 78,
"assessment": "Elevated"
},
"fullGcCount": {
"before": 0,
"during": 10,
"assessment": "Critical"
},
"gcOverhead": {
"before": "0%",
"during": "1.4%",
"assessment": "Warning"
},
"recommendations": [
"Increase heap size: -Xms1g -Xmx1g",
"Use G1GC for better low-latency performance",
"Set -XX:MaxGCPauseMillis=200",
"Reduce promotion rate: -XX:InitiatingHeapOccupancyPercent=45"
]
}
}
3.2 JVM调优建议
基于GC分析结果，系统自动生成JVM参数调优建议：
# 增加堆大小
-Xms1g -Xmx1g
# 使用G1GC获得更好的低延迟性能
-XX:+UseG1GC
-XX:MaxGCPauseMillis=200
-XX:G1HeapRegionSize=16m
# 减少晋升率
-XX:InitiatingHeapOccupancyPercent=45
四、配置调和机制
4.1 为什么需要配置调和？
在Control Plane/Data Plane架构中，配置存储在两个地方：
- MySQL：持久化存储
- Nacos：运行时配置
潜在问题：
- MySQL更新成功，但Nacos发布失败
- Nacos配置被手动修改，与MySQL不一致
- 网络抖动导致配置同步中断
4.2 配置调和实现
graph TB
A[定时任务触发]
B[从MySQL读取配置]
C[从Nacos读取配置]
D{配置一致?}
E[记录调和日志]
F[自动修复Nacos配置]
G[发送告警通知]
A --> B
A --> C
B --> D
C --> D
D -->|一致| E
D -->|不一致| F
F --> G
style D fill:#fff4e1
style F fill:#e1ffe1
style G fill:#ffe1e1
调和任务实现：
@Component
public class ConfigReconciler {
@Scheduled(fixedRate = 60_000) // 每分钟执行一次
public void reconcile() {
log.info("Starting config reconciliation...");
// 从MySQL读取配置
List<RouteConfig> mysqlRoutes = routeRepository.findAll();
// 从Nacos读取配置
String nacosConfig = configCenterService.getConfig("gateway-routes.json", "DEFAULT_GROUP");
List<RouteConfig> nacosRoutes = parseRoutes(nacosConfig);
// 对比配置
ReconciliationResult result = compareRoutes(mysqlRoutes, nacosRoutes);
if (result.hasDifferences()) {
log.warn("Configuration mismatch detected: {}", result);
// 自动修复：以MySQL为准，重新发布到Nacos
fixConfiguration(mysqlRoutes);
// 发送告警
alertService.sendAlert("Configuration mismatch detected and auto-fixed");
} else {
log.info("Configuration is consistent");
}
}
private void fixConfiguration(List<RouteConfig> routes) {
String configJson = JSON.toJSONString(routes);
configCenterService.publishConfig("gateway-routes.json", "DEFAULT_GROUP", configJson);
log.info("Configuration fixed: published {} routes to Nacos", routes.size());
}
}
4.3 审计日志
所有配置变更都会记录审计日志，支持回溯和回滚：
图36-37：审计日志。配置变更历史（36），变更详情与回滚（37）。
五、561个测试用例覆盖策略
5.1 测试覆盖矩阵
| 模块 | 测试类型 | 测试数量 | 覆盖内容 |
|---|---|---|---|
| my-gateway | 单元测试 | 200 | Filter逻辑、认证处理器、限流器 |
| my-gateway | 集成测试 | 132 | 路由匹配、配置刷新、SPI切换 |
| gateway-admin | 单元测试 | 150 | Service层、Controller层、工具类 |
| gateway-admin | 集成测试 | 79 | REST API、数据库操作、Nacos交互 |
| 总计 | - | 561 | - |
5.2 核心测试场景
1. 动态路由测试
@Test
public void testDynamicRouteRefresh() {
// 初始路由
List<RouteDefinition> initialRoutes = createInitialRoutes();
routeManager.updateRoutes(initialRoutes);
// 验证路由生效
List<RouteDefinition> routes = routeLocator.getRouteDefinitions().collectList().block();
assertEquals(2, routes.size());
// 更新路由
List<RouteDefinition> updatedRoutes = createUpdatedRoutes();
routeManager.updateRoutes(updatedRoutes);
// 验证路由已更新（<1秒）
await().atMost(1, TimeUnit.SECONDS).until(() -> {
List<RouteDefinition> newRoutes = routeLocator.getRouteDefinitions().collectList().block();
return newRoutes.size() == 3;
});
}
2. 认证测试
@Test
public void testJwtAuthentication() {
// 创建JWT Token
String token = JwtUtil.generateToken(secretKey, claims);
// 发送请求
WebTestClient client = WebTestClient.bindToRouterFunction(routerFunction).build();
client.get()
.uri("/api/secure")
.header("Authorization", "Bearer " + token)
.exchange()
.expectStatus().isOk();
}
@Test
public void testInvalidJwt() {
// 发送无效Token
client.get()
.uri("/api/secure")
.header("Authorization", "Bearer invalid-token")
.exchange()
.expectStatus().isUnauthorized();
}
3. 限流测试
@Test
public void testRateLimiting() {
// 配置限流：10 QPS
RateLimitConfig config = new RateLimitConfig();
config.setQps(10);
// 发送15个请求
int allowed = 0;
for (int i = 0; i < 15; i++) {
Response response = rateLimiter.isAllowed("test-key");
if (response.isAllowed()) {
allowed++;
}
}
// 验证：约10个请求被允许
assertTrue(allowed >= 9 && allowed <= 11);
}
4. 熔断器测试
@Test
public void testCircuitBreaker() {
// 配置熔断器：失败率50%
CircuitBreakerConfig config = new CircuitBreakerConfig();
config.setFailureRateThreshold(50.0);
// 模拟5次失败
for (int i = 0; i < 5; i++) {
circuitBreaker.onError(0, TimeUnit.MILLISECONDS, new RuntimeException());
}
// 验证熔断器打开
assertEquals(CircuitBreaker.State.OPEN, circuitBreaker.getState());
// 请求应被拒绝
assertThrows(CircuitBreakerOpenException.class, () -> {
circuitBreaker.executeSupplier(() -> "test");
});
}
5.3 测试执行
# 执行所有测试
mvn test
# 执行单个模块测试
cd my-gateway && mvn test
cd gateway-admin && mvn test
# 生成测试报告
mvn test jacoco:report
测试报告：
Tests run: 561, Failures: 0, Errors: 0, Skipped: 0
my-gateway:
Tests run: 332, Failures: 0, Errors: 0, Skipped: 0
gateway-admin:
Tests run: 229, Failures: 0, Errors: 0, Skipped: 0
六、Docker多阶段构建
6.1 Gateway Dockerfile
# 构建阶段
FROM maven:3.9-eclipse-temurin-17 AS builder
WORKDIR /app
COPY pom.xml .
COPY src ./src
RUN mvn clean package -DskipTests
# 运行阶段
FROM eclipse-temurin:17-jre-alpine
WORKDIR /app
# 从构建阶段复制jar包
COPY --from=builder /app/target/my-gateway-1.0.0.jar app.jar
# 健康检查
HEALTHCHECK --interval=30s --timeout=3s --start-period=10s \
CMD wget -qO- http://localhost:8080/actuator/health || exit 1
# 启动命令
ENTRYPOINT ["java", "-jar", "app.jar"]
6.2 Admin Dockerfile
FROM maven:3.9-eclipse-temurin-17 AS builder
WORKDIR /app
COPY pom.xml .
COPY src ./src
RUN mvn clean package -DskipTests
FROM eclipse-temurin:17-jre-alpine
WORKDIR /app
COPY --from=builder /app/target/gateway-admin-1.0.0.jar app.jar
EXPOSE 9090
HEALTHCHECK --interval=30s --timeout=3s --start-period=10s \
CMD wget -qO- http://localhost:9090/actuator/health || exit 1
ENTRYPOINT ["java", "-jar", "app.jar"]
七、系列总结
7.1 五篇文章回顾
通过本系列5篇文章，我们完整介绍了企业级API网关的：
| 篇章 | 主题 | 核心内容 |
|---|---|---|
| 第一篇 | 架构设计与动态路由 | Control/Data Plane分离、SPI扩展、动态路由、灰度发布 |
| 第二篇 | 安全防护体系 | 5种认证、JWT缓存、SQL/XSS防护、IP过滤 |
| 第三篇 | 弹性设计与限流降级 | 熔断器、超时、重试、Shadow Quota、非阻塞锁 |
| 第四篇 | 可观测性与AI Copilot | 全链路监控、分布式追踪、过滤器链分析、AI Copilot 3案例 |
| 第五篇 | Kubernetes部署与测试保障 | K8s多实例、Namespace隔离、心跳监控、压测工具、561测试 |
7.2 项目成果
功能覆盖：
- 44项核心功能
- 31个REST API端点
- 24个GlobalFilter
- 5种认证处理器
- 35+ AI工具
质量保障：
- 561个自动化测试用例（全部通过）
- 75KB架构设计文档
- 28个功能文档
- 66张功能截图
性能指标：
- 配置生效：<1秒
- JWT验证缓存：90%性能提升
- IP过滤前置：37% TPS提升
- Shadow Quota降级：平滑过渡，用户无感知
云原生能力：
- 一键Kubernetes部署
- Namespace隔离
- Prometheus监控
- Docker多阶段构建
八、项目资源
| 资源 | 链接 |
|---|---|
| 项目源码 | github.com/leoli5695/s… |
| 完整架构文档 | github.com/leoli5695/s… |
| 功能文档索引 | github.com/leoli5695/s… |
| 快速开始指南 | github.com/leoli5695/s… |
| 66张功能截图 | github.com/leoli5695/s… |
| 错误码规范 | juejin.cn/editor/draf… |
关于作者
李朝，网关开发，7年+分布式系统经验，专注于API网关、微服务架构、云原生技术领域。
50天独立开发企业级API网关平台，涵盖44项核心功能、561个测试用例，从架构设计到生产环境部署全流程实践。
专业服务
如果你需要构建类似的API网关或微服务平台，我可以提供以下服务：
- API网关定制开发：根据业务需求定制开发网关功能
- 架构设计与咨询：微服务架构设计、技术选型、性能优化
- 性能调优：JVM调优、连接池优化、限流降级方案
- AI集成：AI Copilot开发、智能运维、自动化诊断
联系方式：
- Email: lizhao5695@gmail.com
- Upwork: www.upwork.com/freelancers…
- GitHub: github.com/leoli5695
需要API网关或微服务架构方面的帮助？ 欢迎通过邮件或Upwork联系我，提供技术咨询和定制开发服务。
感谢阅读本系列文章！如果觉得有帮助，欢迎给项目Star ⭐
