MegEngine

在 CV 领域中，卷积计算是扩充像素的感受野的有效方法，模型大多数的计算量都是卷积操作贡献的。因此在 CV 模型的推理性能优化中，最重要的一项工作是对卷积的优化。

在这个算力需求爆炸的大背景下，如何评估我们程序发挥了处理器几成的算力，以及进一步优化空间和优化方向？ MegEngine 团队开发了一个工具 MegPeak，可以帮助开发人员进行性能评估，开发指导等。

做 arm 侧算子开发时，不能不关心的就是性能。本文主要就是介绍 arm 算子性能优化的常用思路，做为一个入门级的参考。

本篇整理自 3.19 日 “Large Kernel Makes CNN Great Again” 专题 Meetup 中《MegEngine 大 Kernel 卷积工程优化实践》分享。

深度学习模型的推理性能通常是大家关注的重要指标，这其中 Tensor 的 Layout Format 又是一个高度影响性能的因素。

在 3.19 日的 “Large Kernel Makes CNN Great Again” 专题 Meetup 中，我们组织了一次圆桌讨论，希望能通过讨论一些比较有共性的问题，碰撞出新想法。

有学者提出超大 kernel 卷积的网络结构，并证明在目标检测和语义分割等任务上超过 Swin Transformer 而且远超传统小卷积模型。

本文将讲述在支持 MegEngine Windows Python wheel 过程中遇到的问题以及解决问题的流程。此文最后的解决方法可能不是最优，欢迎留言指正。

如何让 AI 算法更精准地理解用户喜好又能保证用户数据安全呢？一个直观的想法就是直接在手机上进行模型训练，这样既避免了数据传输可能带来的泄露风险，又能不断提升模型性能。