🎯 AI PC时代必备!开源一个统一AI服务网关,本地+云端一键切换

123 阅读3分钟

🚀 开源了一个AI网关框架 - OADIN,让AI应用开发更简单!

大家好!今天给大家分享一个我开源的AI网关框架 - OADIN (Open AIPC Development Infrastructure) 🎯

💡 为什么要做这个项目?

在AI PC时代,开发者面临一个痛点:AI应用与AI服务紧耦合。每个应用都要自己集成各种AI服务商的SDK,维护不同的API接口,这样既复杂又低效。

OADIN就是为了解决这个问题而生 - 一个统一的AI服务网关,让AI应用开发变得简单而高效

✨ 核心特性

🏗️ 统一服务层

  • 一套API接口,支持所有主流AI服务
  • 本地引擎 + 云端服务的无缝切换
  • 智能调度引擎自动选择最优服务商

💬 完整的AI服务生态

  • 聊天对话:多轮对话、流式输出、深度思考模式
  • 文本嵌入:向量化、语义检索
  • 文本生成:单轮生成、参数调节
  • 文生图服务:文本描述生成图像

🔌 丰富的生态支持

本地引擎:

  • 🦙 Ollama(主力支持)
  • ⚡ IPEX-LLM(Intel优化)
  • 🔧 OpenVINO(边缘AI)

云端服务:

  • 🌟 OpenAI GPT系列
  • 🧠 DeepSeek-V3/R1
  • 🌐 百度文心ERNIE
  • 🦄 阿里通义千问
  • 💫 腾讯混元
  • 📊 神州数码问学

🛠️ 开发者友好

  • 📖 完整的REST API文档
  • 🧪 Playground交互式测试
  • 📚 RAG文档处理
  • 🌟 多语言示例代码

🎯 典型使用场景

# 一键启动AI网关
oadin server start

# 统一的API调用方式
curl -X POST http://localhost:8080/oadin/v0.2/services/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

🚀 快速开始

# 克隆项目
git clone https://github.com/DigitalChinaOpenSource/oadin.git

# 构建
make build-all

# 启动服务
./oadin server start

# 访问Web控制台
open http://localhost:8080

💼 项目亮点

  1. 解耦架构:AI应用与AI服务完全解耦,一次集成终身受益
  2. 混合调度:本地推理 + 云端服务智能切换,成本与性能最优
  3. 可视化管理:React构建的Web控制台,服务监控一目了然
  4. 生产就绪:v0.2.0已经具备生产级特性,可直接用于项目

🎨 Web控制台预览

OADIN还提供了完整的Web管理界面:

  • 📊 服务状态实时监控
  • 🧪 Playground在线测试
  • 📚 RAG文档管理
  • 🛠️ MCP工具集成

🔮 未来规划

  • 🔄 更多本地推理引擎支持
  • 📈 更强大的监控与分析
  • 🌐 分布式部署支持
  • 🔐 企业级安全特性

🤝 欢迎贡献

这是一个完全开源的项目,欢迎大家:

  • ⭐ Star支持一下
  • 🐛 提交Issues反馈问题
  • 🔧 贡献代码和功能
  • 📖 完善文档

GitHub仓库: github.com/DigitalChin…


📝 写在最后

OADIN的愿景是成为AI PC时代的基础设施,让每个开发者都能轻松构建AI应用。如果你也在做AI相关的开发,欢迎试用并反馈!

有任何问题或建议,欢迎在评论区交流 💬

#AI #开源 #网关 #AIPC #LLM #人工智能 #Go #React #云服务


如果觉得有用,别忘了点个赞和关注哦! 👍✨