用户35526910732

00 前言 在与伙伴/客户交流合作过程中，经常遇到一张算力卡资源同时分配给多个使用方进行模型任务的需求，毕竟如今AI算力还比较稀缺和昂贵。那么本片内容则为大家介绍一个针对这个痛点的创新技术——昇腾虚拟

01 硬件要求及组网 推荐参考配置如下，部署DeepSeek-V3/R1量化模型至少需要多节点Atlas 800I A2（8*64G）服务器。本方案以DeepSeek-R1为主进行介绍，DeepSee

​ 问题现象描述 启动任务时，任务无法拉起。 任务执行时，突然中断或服务突然终止。 原因分析 NPU网络通信存在问题。 解决措施 查看防火墙是否关闭。      firewall-cmd –state

00 引言 GPU迁移到昇腾的大模型，或是基于昇腾开发的大模型在训练过程中除了会遇到精度问题外，性能也是非常常见的问题。 文本将主要针对昇腾环境下的PyTorch训练场景，推荐通过Ascend PyT

00 引言 GPU迁移到昇腾的大模型，或是基于昇腾开发的大模型在训练过程中经常会出现精度溢出、loss曲线跑飞、不收敛等精度异常情况，而训练loss指标等不能精准指导精度异常定界，无法区分是训练软件栈

​  Cosmos Tokenizer是英伟达推出的一套图像和视频的标记器，推动了视觉标记化的最先进技术，为大规模、稳健和高效地开发大型自回归变换器（如LLMs）或扩散生成器铺平了道路。给定一张图像或

​ 一、引言 在当今数字化时代，多媒体内容的需求呈爆炸式增长，视频作为一种极具表现力和传播力的信息载体，其创作和生成技术的发展至关重要。2024 年 2 月 15 日，OpenAI 推出了了 Sora

​  一、引言 在自然语言处理领域，RAG（Retrieval-Augmented Generation）技术正逐渐引起广泛关注。它结合了信息检索和语言生成的优势，为解决各种自然语言处理任务提供了新的

​  在自然语言处理领域，模型微调是一种强大的技术，可以让预训练模型适应特定的任务和数据集。本文将详细介绍如何使用 昇腾LLM分布式训练框架MindSpeed-LLM 进行 ChatGLM3-6B 模