🚀 开源了一个AI网关框架 - OADIN,让AI应用开发更简单!
大家好!今天给大家分享一个我开源的AI网关框架 - OADIN (Open AIPC Development Infrastructure) 🎯
💡 为什么要做这个项目?
在AI PC时代,开发者面临一个痛点:AI应用与AI服务紧耦合。每个应用都要自己集成各种AI服务商的SDK,维护不同的API接口,这样既复杂又低效。
OADIN就是为了解决这个问题而生 - 一个统一的AI服务网关,让AI应用开发变得简单而高效!
✨ 核心特性
🏗️ 统一服务层
- 一套API接口,支持所有主流AI服务
- 本地引擎 + 云端服务的无缝切换
- 智能调度引擎自动选择最优服务商
💬 完整的AI服务生态
- 聊天对话:多轮对话、流式输出、深度思考模式
- 文本嵌入:向量化、语义检索
- 文本生成:单轮生成、参数调节
- 文生图服务:文本描述生成图像
🔌 丰富的生态支持
本地引擎:
- 🦙 Ollama(主力支持)
- ⚡ IPEX-LLM(Intel优化)
- 🔧 OpenVINO(边缘AI)
云端服务:
- 🌟 OpenAI GPT系列
- 🧠 DeepSeek-V3/R1
- 🌐 百度文心ERNIE
- 🦄 阿里通义千问
- 💫 腾讯混元
- 📊 神州数码问学
🛠️ 开发者友好
- 📖 完整的REST API文档
- 🧪 Playground交互式测试
- 📚 RAG文档处理
- 🌟 多语言示例代码
🎯 典型使用场景
# 一键启动AI网关
oadin server start
# 统一的API调用方式
curl -X POST http://localhost:8080/oadin/v0.2/services/chat \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4",
"messages": [{"role": "user", "content": "Hello!"}]
}'
🚀 快速开始
# 克隆项目
git clone https://github.com/DigitalChinaOpenSource/oadin.git
# 构建
make build-all
# 启动服务
./oadin server start
# 访问Web控制台
open http://localhost:8080
💼 项目亮点
- 解耦架构:AI应用与AI服务完全解耦,一次集成终身受益
- 混合调度:本地推理 + 云端服务智能切换,成本与性能最优
- 可视化管理:React构建的Web控制台,服务监控一目了然
- 生产就绪:v0.2.0已经具备生产级特性,可直接用于项目
🎨 Web控制台预览
OADIN还提供了完整的Web管理界面:
- 📊 服务状态实时监控
- 🧪 Playground在线测试
- 📚 RAG文档管理
- 🛠️ MCP工具集成
🔮 未来规划
- 🔄 更多本地推理引擎支持
- 📈 更强大的监控与分析
- 🌐 分布式部署支持
- 🔐 企业级安全特性
🤝 欢迎贡献
这是一个完全开源的项目,欢迎大家:
- ⭐ Star支持一下
- 🐛 提交Issues反馈问题
- 🔧 贡献代码和功能
- 📖 完善文档
GitHub仓库: github.com/DigitalChin…
📝 写在最后
OADIN的愿景是成为AI PC时代的基础设施,让每个开发者都能轻松构建AI应用。如果你也在做AI相关的开发,欢迎试用并反馈!
有任何问题或建议,欢迎在评论区交流 💬
#AI #开源 #网关 #AIPC #LLM #人工智能 #Go #React #云服务
如果觉得有用,别忘了点个赞和关注哦! 👍✨