这是我参与[第四届青训营]笔记创作的第 31 天
架构:问题发现和定义,设计解决方案
算法:训练数据收集,算法设计,模型训练,模型压缩转换
工程:模型部署,预测样本采集,推理预测,业务调度,结果应用。
1.什么是端智能技术
端智能:是把机器学习,深度学习算法模型应用和部署到端设备上,'端设备'是相对于云服务而言的,可以是手机,也可以是物联网IoP设备
特点:
低延迟,实时性高。可离线。端设备算力越来越强大。低成本。保护隐私。
端云协同:端智能不是云智能的替代,是云端机器学习的延伸,是要结合云和端各自的优势,在云端之间合理分配任务以获取问题最优解。
2.端智能技术实践案例(手写数字识别和左右手智能识别和应用)
问题--解决方案--机器学习--数据收集--模型设计--模型压缩--模型部署--收集输入--拿到结果
模型压缩:移动端使用的是被优化的推理引擎,可以在不同CPU和GPU架构下更高效的执行模型推理计算。
模型部署:让移动端可以加载到前面转化的模型。
做法:放到APP包体内assets目录下;通过url动态下载,支持动态更新,同时减少包体积
推理预测:指设备上执行TensorFlow Lite模型。TensorFlow Lite将模型的加载和执行分装在interpreter类中。加载模型--构造模型输入---执行推理预测--获取推理运行结果。
左右手智能识别和应用
设计模型:二分类模型,卷积神经网络。
模型训练:训练样本处理,模型训练,验证模型准确度。
3.端智能工程师学习路线
入门:达成对端智能技术有一定认识,可以协作完成端智能技术的需求落地。(了解端智能技术是什么,可以做什么;掌握移动端开发,Machine Learning基础知识,了解业内端智能框架;理解怎么做端智能,可以协作完成端智能技术解决实际问题的需求落地)
进阶:达成对移动端技术,端智能技术和负责业务有更深入的理解,可以站在更全面的视野上设计端上智能解决方案,建设端上智能构架