🔥 Spring AI 2.0 弃用智谱 AI？Mayfly 来救场！

Insect_sounds
0 阅读5分钟

🔥 Spring AI 2.0 弃用智谱 AI？Mayfly 来救场！

让每个使用 Spring AI 的 Java 开发者，都能零成本获得企业级模型路由能力

⚠️ Spring AI 2.0 的重要变化

根据 Spring 官方发布的 Spring AI 2.0.0-M4 Release Notes，官方明确指出：

📢 Noteworthy:

  • The ZhiPu AI model integration classes have been deprecated and will be removed in a future release. #5676

这意味着什么？

  • ❌ 智谱 AI (ZhiPuAI) 不再被 Spring AI 官方支持
  • ⚠️ 依赖智谱 AI 的项目面临升级断供风险
  • ✅ DeepSeek 和通义千问仍然被 Spring AI 支持

国内开发者的真实需求

对于国内的 Java 开发者来说，仍然面临几个核心问题：

  1. 智谱 AI 支持缺失: Spring AI 2.0 弃用了智谱 AI，但很多项目仍在使用
  2. 企业级特性缺失: Spring AI 只提供基础调用能力，缺乏生产环境必需的容错机制
  3. 多模型管理复杂: 企业通常需要同时使用多个大模型，但 Spring AI 缺乏统一的路由管理

🚀 Mayfly：完美的解决方案

Mayfly 是一个基于 Spring AI 的企业级模型路由增强插件，专为国内 Java 开发者打造。

✅ Mayfly 能做什么？

  • ✅ 继续支持智谱 AI: 填补 Spring AI 2.0 弃用后的空白
  • ✅ 深度适配国产模型: 智谱 GLM-4、通义千问 Qwen-Max、DeepSeek 全系列
  • ✅ 企业级特性完整: 负载均衡 + 故障转移 + 熔断保护 + 自动重试 + 健康监控
  • ✅ 零配置快速集成: 3行代码即可获得生产级 AI 能力
  • ✅ 完全开源免费: Apache License 2.0，商业友好

🎯 核心特性

🇨🇳 国产模型深度适配

mayfly:
  models:
    - name: zhipu-primary      # 智谱 GLM-4
      provider: zhipu
      api-key: ${ZHIPU_API_KEY}
      model: glm-4
      weight: 70
    
    - name: tongyi-backup      # 通义千问 Qwen-Max  
      provider: tongyi
      api-key: ${TONGYI_API_KEY}
      model: qwen-max
      weight: 30

🛡️ 企业级容错机制

  • 智能权重路由: 40% DeepSeek, 25% 智谱, 15% 通义, 20% 备份
  • 熔断保护: 50% 失败率自动熔断，防止雪崩效应
  • 故障转移: 主模型失败自动切换备用，业务无感知
  • 健康监控: 实时状态检查 + Prometheus 指标收集

⚡ 极简集成体验

@Service
public class ChatService {
    private final ModelRouter modelRouter;
    
    public ChatService(ModelRouter modelRouter) {
        this.modelRouter = modelRouter; // Spring Boot 自动注入
    }
    
    public ChatResponse chat(String message) {
        return modelRouter.chat(new Prompt(message)); // 统一接口调用
    }
}

就是这么简单！ Mayfly 自动处理所有复杂逻辑。

📊 技术架构

┌─────────────────────────────────────┐
│         业务应用层                    │
│      (Your Spring Boot App)          │
├─────────────────────────────────────┤
│      Mayfly 路由增强插件              │
│  ┌─────────┬─────────┬──────────┐   │
│  │ 负载均衡 │ 灰度发布 │ 熔断限流  │   │
│  ├─────────┼─────────┼──────────┤   │
│  │ 智能路由 │ 故障转移 │ 监控观测  │   │
│  └─────────┴─────────┴──────────┘   │
├─────────────────────────────────────┤
│         Spring AI 官方框架            │
├─────────────────────────────────────┤
│    国产模型 + 海外模型 适配层          │
└─────────────────────────────────────┘

模块化设计

  • mayfly-core: 核心路由接口
  • mayfly-adapter: 模型适配器层
  • mayfly-router: 智能路由策略
  • mayfly-loadbalancer: 负载均衡算法
  • mayfly-failover: 故障转移机制
  • mayfly-circuitbreaker: 熔断限流
  • mayfly-monitor: 监控指标收集
  • mayfly-spring-boot-starter: 自动配置

🚀 快速开始

1. 添加依赖

<dependency>
    <groupId>io.mayfly</groupId>
    <artifactId>mayfly-spring-boot-starter</artifactId>
    <version>1.0.0</version>
</dependency>

2. 配置模型

在 application.yml 中添加配置（支持环境变量）：

mayfly:
  enabled: true
  models:
    - name: zhipu-primary
      provider: zhipu
      api-key: ${ZHIPU_API_KEY}  # 安全的环境变量方式
      model: glm-4
      weight: 70

3. 开始使用

@RestController
public class AiController {
    @Autowired
    private ModelRouter modelRouter;
    
    @PostMapping("/chat")
    public String chat(@RequestBody String message) {
        ChatResponse response = modelRouter.chat(new Prompt(message));
        return response.getResult().getOutput().getContent();
    }
}

💡 为什么选择 Mayfly？

vs Spring AI 原生

对比项Spring AI 2.0Mayfly
智谱 AI 支持❌ 已弃用✅ 继续支持
企业级特性❌ 无✅ 完整
多模型路由❌ 无✅ 智能路由
生产就绪度⚠️ 基础✅ 企业级

vs LangChain4j

对比项LangChain4jMayfly
Spring 集成⚠️ Starter✅ AutoConfig
企业级特性⚠️ 部分✅ 完整
学习成本中等极低
国产模型✅ 支持✅ 深度适配

📈 性能与可靠性

企业级保障

  • 负载均衡: 加权轮询算法，智能分配流量
  • 熔断保护: Resilience4j 集成，50% 失败率阈值
  • 自动重试: 最多 2 次重试，提高成功率
  • 健康监控: Micrometer + Prometheus 完整指标
  • Docker 支持: 一键部署完整监控栈

生产就绪

  • ✅ 单元测试覆盖率 ≥ 80%
  • ✅ 完整的集成测试套件
  • ✅ Docker Compose 一键部署
  • ✅ CI/CD 自动化流水线

🤝 开源与社区

完全开源

  • 许可证: Apache License 2.0 (商业友好)
  • 代码托管: GitCode - Mayfly
  • 贡献指南: 详细的 CONTRIBUTING.md
  • 行为准则: CODE_OF_CONDUCT.md

欢迎贡献

我们欢迎任何形式的贡献：

  • 🐛 Bug 报告和修复
  • 🚀 新功能开发
  • 📚 文档改进
  • 💡 使用反馈和建议

Issues: 提交问题
邮箱: git@xsjyby.asia

🎯 适用场景

企业应用场景

  • AI 客服系统: 多模型冗余保障服务可用性
  • 智能问答平台: 根据问题类型路由到最佳模型
  • 代码生成工具: 专用模型处理特定任务
  • 内容创作平台: 成本优化的多模型调度

开发者场景

  • 个人项目: 快速集成国产大模型
  • 学习研究: 了解企业级 AI 应用架构
  • 技术验证: 对比不同模型的效果和成本

📣 立即体验

# 克隆项目
git clone https://gitcode.com/Topfogking/mayfly.git

# 查看示例配置
cat mayfly-demo/src/main/resources/application.yml

# 运行测试
cd mayfly-demo && mvn spring-boot:run

访问测试端点:

  • GET /api/test/models - 查看注册的模型
  • GET /api/test/health-monitor - 健康状态监控
  • POST /api/test/load-balancer - 负载均衡测试

💬 联系我们

如果您对 Mayfly 项目感兴趣或有任何问题：

🏆 关于 Mayfly

Mayfly 是一个基于 Spring AI 的企业级模型路由增强插件，专为国内 Java 开发者打造。我们致力于解决 Spring AI 在国产模型支持和企业级特性方面的不足，让每个开发者都能轻松构建生产级的 AI 应用。

Made with ❤️ by Mayfly Team

🌟 Star us on GitCode if you find Mayfly useful!
🚀 让国产大模型在 Spring 生态中绽放光彩！

avatar
文章
阅读
粉丝