「龙蜥大讲堂」精彩预告来了,点击下方海报抢先了解。欢迎扫描海报二维码提前进群,立即预约锁定这场 AI 关键技术分享!
异构场景下的大模型优化技术
直播时间: 2026 年 04 月 15 日 (周三)16:00-17:00
直播内容:
本次直播带大家了解异构推理的工作机制,掌握不同类型模型上的性能优化技巧,以及分享异构推理的基本过程和存在问题,分析在基于龙蜥操作系统的硬件资源受限场景下,稠密模型和 MoE 模型在 CPU 端的卸载技术。
适合人群:
研发工程师、运维工程师。
讲师介绍:
Rongfei Xu,浪潮信息系统软件架构师。博士毕业于北航计算机学院计算机软件与理论专业,研究领域为服务器操作系统、大模型推理等系统优化技术。目前从事异构推理的性能提升工作。