端智能

什么是端智能

深度学习解决问题包括4个步骤：

1. 数据采集及处理，
2. 模型选取与训练，
3. 模型效果评估，
4. 模型部署和推理。 最后一步模型推理通常的方案是将模型部署在云端或服务器上，然后对外提供API服务。端智能是直接将推理服务通过SDK的形式集成在APP端，供APP直接调用。

优势

• 实时性高，端侧处理可节省数据的网络传输时间。
• 数据量大，端上有服务端无法获取的数据。
• 节省资源，充分利用端侧算力和存储空间。
• 隐私性好，产生数据到消费数据都在端侧完成，避免传输引起的隐私泄露风险。

限制

• 设备资源有限，端侧算力、存储是有限的，不能做大规模高强度的持续计算。
• 算法规模小，端侧算力小，而且单用户的数据，在算法上并不能做到最优。
• 用户数据有限，端侧数据不适合长期存储，同时可用数据有限。

难点

端侧模型的来源，客户端团队如果想自己训练模型还是有一定难度的。