MegEngine

看社区开发者如何以一人之力， 3 个月完成 MegEngine javascript 版本，实现在 javascript 环境中快速部署 MegEngine 模型~

本文梳理了一些 Cadence DSP 算子开发中的重点，希望可以给对 Cadence DSP 开发有兴趣的同学带来帮助。

MegEngine 推出的 Custom Op 工具，可以简单便捷的将算法工程师自己编写的 c++/cuda kernel 封装成 Op 并自动化的编译成动态链接库并集成入 MegEngine 中。

MegEngine 中采用了多种降低内存的解决方案，本次主要介绍的是 MegEngine 静态内存管理模块是如何利用顺序程序图中的数据流分析，实现内存重用以达到降低内存占用的效果。

MegFlow 是面向计算机视觉应用的流式计算框架，提供了一套可快速完成 AI 应用部署的视觉解析服务方案。AI 应用开发者可以基于 MegFlow 提供的图像和视频解析服务，最快 15 分钟即可完成

单精度矩阵乘法几乎是每一位学习 CUDA 的同学绕不开的案例，这个经典的计算密集型案例可以很好地展示 GPU 编程中常用的优化技巧。本文将详细介绍 CUDA SGEMM 的优化手段。

本文基于 MegEngine 推理引擎，对优化方法 NCHW44 和 Record 的原理和使用方法做比较详细的说明。

MegEngine 中实现了更快的集合通信算法，对多个不同的网络训练相对于 NCCL 有 3% 到 10% 的加速效果，v1.5 版可切换集合通信后端为 shm（默认是 nccl），只需要改一个参数。

MegEngine 通过为每个计算自动选择最快的算法，从而保证整个网络的运行时间最短。并且同时能够将计算的参数和其对应的算法信息以及设备信息记录到内存或文件~