AI布道Mr_Jin

​ 最近有很多朋友都在部署deepseek模型，而且都用到了模型量化这个功能，目的是减少显存占用、提升推理速度。 ![file](http://image.openwrite.cn/33719_13

最近qwen2.5系列模型有点火，在昇腾上跑了一下，发现性能稍微有点弱，于是想采用量化推理来提升一下性能，在昇腾官网找到了这篇指导：https://www.hiascend.com/software

本实验指导共包含实验环境准备、训练数据集准备、模型权重准备和预训练4个部分。 # 1 环境准备 ## 1.1 拉取镜像 本次实验使用的python环境来自昇腾官网提供的镜像，下载地址为 https:

这周支撑了一个llama2 70B MindIE开箱推理报错的问题，给大家分享一下。 ## 1. 背景 事情是这样，开发者搞了一台昇腾800I A2服务器，这个服务器的配置是8卡，每个卡显存是32G

欢迎学习《基于 Conformer 和 Transformer 模型的中文语音识别》实验。本案例旨在帮助你深入了解如何运用深度学习模型搭建一个高效精准的语音识别系统，将中文语音信号转换成文字，并利用开

mindspeed-llm是[昇腾模型套件代码仓](https://link.zhihu.com/?target=https%3A//gitee.com/ascend/MindSpeed-LLM/t

# 一、PFC产生原因 负责集群运维的同学可能都遇到过PFC现象，那么PFC到底是啥？产生原因是什么？这篇文章提供了一些分析。 首先，参考[官网文档](https://link.zhihu.com

使用torch-npu的报错定位思路。一共介绍了10个左右的案例，通过这些案例讲解技巧具体怎么使用。

 ## 00 - 前言 ## 欢迎学习《基于 P