MegEngine

MegEngine 7-8 双月报来啦：新版本发布，AI 生态工具最新升级，开发者福利课程，干货满满...

据不完全统计，有 80% 的性能问题其实是因为训练代码写的不够好，让 MGE 有力使不出来，本文总结了方法，满满干货...

你是否需要 AI 初学者入门级的开源教程？ 你是否期待和顶尖开发者一起学习，向深度学习领域的大佬看齐？ 你是否希望通过课程讲解，了解项目实践，掌握深度学习、大模型相关的前沿...

旷视开源的深度学习框架 MegEngine，MegEngine 是一个快速、可拓展、易于使用且支持自动求导的深度学习框架。 以最新的 release 版本 release-...

本文将介绍 Python 层的 quantization 模块。量化是为了减少模型的存储空间和计算量，从而加速模型的推理过程。...

本文将介绍 Python 层的 functional、module 和 optimizer 模块。理解并掌握这几个模块对于高效搭建神经网络非常重要。...

本文介绍 Python 层的 data 模块。读者将通过本文了解到要构建数据 pipeline 所需要的对象，以及如何高效地构建 pipeline。...

本文将重点解析模型部署中的重要步骤之一-模型编译：编译 MegEngine 模型，生成运行这个模型对应的 Kernel 以及和这些 Kernel 绑定的模型。...

在之前的文章中我们介绍过 MegEngine 的 Imperative Runtime 以及它与 MegBrain、MegDNN 的关系，这篇文章中我们将介绍 Impera...

MegCC 支持了基础的 Benchmark 模块用于测试各类模型的推理性能，获取推理时各个 Kernel 的性能数据，分析模型性能瓶颈。...

因为 MegEngine 是动静合一的深度学习框架，MegBrain 解决了静态图的训练和推理问题，还需要有一个“组件”负责处理动态图的训练和推理、以及 Python 侧的...

MegCC 是一个真真实实的深度学习模型编译器，具备极其轻量的 Runtime 二进制体积，高性能，方便移植，极低内存使用以及快启动等核心特点。用户可在 MLIR 上进行计...

前言 roofline 分析是一种简单评估当前计算任务对当前平台计算/访存能力的利用情况的方法，可以帮助分析算子的优化方向和优化潜力。mperf 实现了安卓 mali/ad...

“开源软件供应链点亮计划-暑期2023”是一项面向高校学生的暑期活动，为高校学生提供了绝佳的、友好开放的交流平台。使学生可以真正投身于开源软件的开发维护，得到资深开源软件开...

欢迎试用结构简单，易上手的轻量级 LLM 模型推理框架 InferLLM：提供一个比 llama.cpp 更简单更容易上手的本地部署框架，供大家学习和讨论 让 LLM 模型...

常见神经网络模型所用的 Tensor 数据类型 一般是 float32 类型， 而工业界出于对特定场景的需求（极少的计算资源，极致的推理速度），需要把模型的权重和或激活值转...