使用TensorFlow Lite开发基于TPU的人工智能解决方案
边缘TPU与TensorFlow Lite框架相结合，打开了几个边缘AI应用的机会。
今天，人工智能已经无处不在，从个人设备到企业应用，你到处都能看到它们。物联网的出现，加上对数据隐私、低功耗、低延迟和带宽限制的需求上升，越来越多地推动了人工智能模型在边缘而不是云端运行。根据Grand View Research的数据，全球边缘人工智能芯片市场在2019年的价值为18亿美元，预计从2020年到2027年将以21.3%的复合年增长率增长。在这次发布会上，谷歌推出了Edge TPU，也被称为 Coral TPU，它是专门为在边缘运行人工智能而设计的ASIC。
它的设计是为了在占用最小的空间和功率的同时提供出色的性能。当我们训练一个人工智能模型时，我们的人工智能模型有很高的存储要求和GPU处理能力。我们不能在具有低内存和处理足迹的设备上执行它们。在这种情况下，TensorFlow Lite很有用。TensorFlow Lite是一个开源的深度学习框架，在Edge TPU上运行，可以在设备上推理和执行AI模型。另外，请注意，TensorFlow Lite只用于在边缘执行推理，而不是训练模型。对于训练一个人工智能模型，我们必须使用TensorFlow。
结合边缘TPU和TensorFlow Lite
当我们谈及在Edge TPU上部署AI模型时，我们不能部署任何AI模型。
Edge TPU支持NN（神经网络）操作，设计可以实现高速的神经网络性能，并具有低功耗。除了特定的网络，它只支持Edge TPU的8位量化和编译的TensorFlow Lite模型。
简而言之，TensorFlow Lite是TensorFlow的一个轻量级版本，专门为移动和嵌入式设备设计。它以较小的存储尺寸实现了低延迟的结果。一个TensorFlow Lite转换器允许将基于TensorFlow的AI模型文件（.pb）转换为TensorFlow Lite文件（.tflite）。 以下是在Edge TPU上部署应用程序的标准工作流程
在Edge TPU上的应用部署
让我们看看一些有趣的现实世界的应用程序，可以在边缘TPU上使用TensorFlow Lite构建。
人类检测和计数
这个解决方案有很多实际应用，特别是在商场、零售、政府办公室、银行和企业。人们可能会想，用检测和计数人类可以做什么。现在的数据具有时间和金钱的价值。让我们看看如何利用人类检测和计数的见解。
- 估算人流量。对于零售业来说，这一点很重要，因为它可以让人了解他们的商店是否做得很好。他们的展示是否吸引了顾客进入商店，这也有助于他们知道是否需要增加或减少支持人员。对于其他组织，它们有助于为人们采取足够的安全措施。
- 人群分析和队列管理。对于政府办公室和企业来说，通过人的检测和计数进行队列管理有助于他们管理较长的队列并节省人们的时间。研究队列可以促进个人和组织的绩效。人群检测可以帮助分析紧急情况、安全事件等的人群警报，并采取适当的行动。这样的解决方案在部署在边缘的时候会有最好的效果，因为可以接近实时地采取所需的行动。
基于年龄和性别的目标广告
这个解决方案主要在零售和广告行业有实际应用。想象一下，你走向广告显示屏，上面显示的是一个女鞋的广告。突然间，广告变成了男鞋广告，因为它判断你是男性。有针对性的广告帮助零售商和制造商更好地锁定他们的产品，并创造品牌意识，而这是一个普通人在繁忙的生活中永远无法看到的。
这不能只局限于广告；年龄和性别检测也可以帮助企业通过管理零售店内适当的支持人员，人们喜欢什么年龄和性别的人访问你的商店、企业等来快速决策。如果你的判断和行动非常迅速，这一切就更加有力和有效。因此，更有理由在Edge TPU上拥有这个解决方案。
人脸识别
第一个人脸识别系统是在1970年建立的，到目前为止，这个系统仍在发展中，被变得更加强大和有效。在Edge上拥有人脸识别的主要优势是实时识别。另一个优势是在边缘有人脸加密和特征提取，并将加密和提取的数据发送到云端进行匹配，从而保护人脸图像的PII级隐私（因为你不会在边缘和云端保存人脸图像），并遵守严格的严格要求
隐私法。
边缘TPU与TensorFlow Lite框架相结合，打开了几个边缘AI应用的机会。由于该框架是开源的， 开源软件（OSS）社区也支持它，使其在机器学习用例中更受欢迎。TensorFlow Lite的整体平台增强了嵌入式和物联网设备的边缘应用的增长环境。
