人工智能走进人们日常生活，进驻到企业生产已经不是一件新鲜事。
根据 Gartner 数据显示，截至 2019 年，全球已经有 37% 的企业在生产中会使用到 AI，而这个数据将在 2024 年翻倍至 75%。
这意味着：各行各业已经或者即将进行“数字化转型”，AI 前景一片大好。但是距离 AI 落地，仍面临着最后一公里的难题
譬如：一个典型场景 AI 算法的商用落地除了模型训练外，还需要进行视频图片解码、HTTP服务、预处理、后处理、多模型复杂业务串联、运维、打包等工程开发，往往需要耗费比模型训练多得多的时间，同时算法的性能和可靠性通常随开发人员的工程能力水平高低而参差不齐，严重影响AI算法的上线效率。
总结来说，AI 落地需要跨越这些鸿沟: 01 算力成本昂贵问题；02 商用场景价值不够多元丰富；03 AI 开发门槛较高且人才匮乏
那么应该怎样打通这最后一公里，让 AI 落地并助力企业数字化转型呢？
2020年，一些 AI 开发者提出边缘智能(Edge AI)的概念，并将其可视作打通万物互联，实现 AI 落地的新机遇。
这不是一个全新的概念。边缘计算可以理解为一个微型数据中心的网状网络，这个网络在本地处理或存储关键数据，并将接收到的数据推送到中央数据中心或云存储库。
面对此类问题，华为云开源了一个边缘 AI 应用开发与运行框架—— ModelBox，并在 Gitee 上获得推荐，成功收录入 Gitee旗下创新研究所 「Gitee星球」。 这个开源项目提供屏蔽底层软硬件差异的能力，通过 AI 应用开发的统一格式和接口，实现 AI 应用的端边云统一部署管理，助力开发者降低跨平台开发工作量。
关于我们
Gitee星球 是 Gitee 旗下的创新研究所。在这里，我们收集整理了 Gitee 上高品质、有意思的开源项目，同时也挖掘 Gitee 项目作者的一手开源故事，邀请优秀的开发者们讲述自己的开源经历，举办有趣的开源活动。
什么是 ModelBox
ModelBox 是适用于端边云场景提供的 AI 应用开发与运行框架。它提供了一个基于 Pipeline 的并行执行流程，能够帮助 AI 开发者快速完成模型文件到 AI 推理应用的开发和上线工作，降低 AI 算法落地门槛，同时带来 AI 应用的高稳定性和极致性能。
项目地址： <gitee.com/modelbox/mo…> 开源许可证： Apache-2.0
特点
- 开发可视化，功能模块化，支持多语言，易于开发
- 集成云上对接组件
- 并发运行 Pipeline
- 支持 CPU，GPU，NPU 的软硬件异构
- 适用视频，语音，文本，NLP 全场全场景
- 服务运行状态可视化，组件性能实时监控
开发前准备
1.运行/编辑环境准备
- 使用已有 Docker 镜像
- 源码构建 ModelBox
ubuntu 操作系统
apt update
apt install build-essential unzip ffmpeg cmake
apt install python3-setuptools python3-wheel python3-numpy python3-opencv python3-pip
apt install libssl-dev libcpprest-dev python3-dev libswscale-dev libavformat-dev graphviz-dev
centos 操作系统
yum update
yum install ffmpeg cmake libcpprest
2.配置服务模式
- 服务模式：可用于生产环境运行 AI 流程图
- 开发者模式：可用于开发流程图时进行可视化编排
推理业务开发流程
开发者可以按照自己的诉求开发 AI 推理业务，或扩展 ModelBox 功能。
开发内容详情
- 流程图开发
每个 ModelBox 推理业务都有一个流程图对应，所以需要先开发流程图
- 功能单元开发
完成了流程图编排之后，还需通过功能单元(FlowUnit)来实现应用的实际功能
- 服务插件开发
主要用于扩展 ModelBox 管理接口
- SDK 集成
针对已有业务，可将已搭建的AI 推理功能扩展到已有进程中
针对新业务，建议使用服务模式
开发代码调试与优化
- 采用 ModelBox 运维调试工具，快速运行流程图
- 甘特图进行流程图性能调试
- 若有 Bug，采用代码调试
如何部署到生产环境
1.部署环境准备
准备对应镜像、ModelBox 软件以及 AI 业务流程图
2.将开发完成的流程图，部署到生产环境中并运行
3.运行流程图后，通过 REST-API 发送执行请求给 ModelBox服务
应用参考案例
喜欢就点个Star
如果你对本期项目推荐感兴趣，也欢迎各位转发、评论、点个 star。
同时也欢迎给我推荐有趣的开源项目，如果成功收录 Gitee星球将有小礼品噢~
