说到大模型训练和智算中心网络，大家有时会听到参数面网络、样本面网络、业务面网络这些概念，有时会听到Scale Up、Scale Out网络，还有时会听到前端网络和后端网络，这些概念，那么这些网络概念有什么区别吗？今天我们就来解析一下。
大模型训练及智算中心整体网络架构
大模型训练和智算网络架构通常包括以下几个主要的部分：参数面、样本面、业务面、存储面及管理面等几个网络平面（注，根据业务量的实际情况，部分平面可以共用）：
编辑
参数面网络： 承担模型训练过程中AI计算节点之间参数交换的流量（多GPU节点间梯度交换），用于GPU服务器集群内部互联，是智算中心典型业务AI训练多GPU卡并行工作的关键。
样本面网络： 承担模型训练过程中AI计算节点访问高性能存储系统的流量，如启动阶段的AI计算节点加载训练任务镜像和AI模型、训练时读取样本数据集、故障时CheckPoint文件写入存储系统和训练完成时模型写入存储系统等。
业务面网络： 承载来自AI平台区或外部用户下发任务和各类数据，并将AI训练、推理等结果进行返回，也用于通用算力集群（可以与通用算力集群合并使用），网络流量的带宽需求不大。
存储面网络： 在云场景下，承载存储面部分数据报文，如启动阶段的AI计算节点加载训练任务镜像和AI模型等。
带内管理网络： 各类设备的监控和管理，资源利用率监控、故障告警、下发配置等，整体带宽需求低。
BMC 带外管理网络： 实现服务器硬件状态监测、远程开关机、重启等功能
Scale up 与Scale out如何区别
AI智算集群有两种扩展模式，一种是Scale Up，另一种是Scale Out。
Scale Up是向上扩展（纵向扩展），增加单节点内的GPU/NPU算卡数量（也就是通常所说的超节点的大小）。Scale Out是向外扩展（横向扩展），增加节点的数量，扩大整体组网规模。
编辑
超节点主要目的是为应对AI大模型训练与推理需求而发展起来的新型算力基础设施架构，它通过高速互连技术将大量计算单元（如GPU、TPU、NPU等）紧密集成，构建一个高带宽域（HBD）。是指在一个物理机柜或一组紧密耦合的计算单元内部，通过高密度集成计算单元和专用的高速互联技术，实现近似单机性能的超大规模并行计算系统，旨在突破传统服务器内部以及服务器之间通过PCle或标准以太网互联的带宽和延迟瓶颈，将数十甚至数百个加速器紧密连接，形成一个逻辑上的超大服务器，以支持张量并行、专家并行等对内部通信要求极高的并行计算任务。
从组网技术的角度来看，Scale Up使用NVLink（英伟达）、UB（华为，以前单节点内部用HCCS）、Infinity Fabric（AMD）、UALink、SUE（Scale Up Ethernet，博通）等，Scale Out使用RoCE、IB。
Scale Up解决的是单机、单节点或超节点内部（即一个高带宽域HB内部）的GPU与GPU、GPU与CPU等的通信问题。Scale-Up核心目标，是在单一服务器节点或超节点内部将多个GPU紧密耦合，使其协同如一个统一而强大的计算单元，关键在于实现极致的低延迟和高带宽通信。
Scale Out解决的是多机、多节点或多个超节点之间的通信问题。旨在将成百上千个超节点连接成庞大集群，以支持单一节点无法完成的大模型训练任务，其网络性能直接决定了集群的整体扩展效率。
下图是华为CloudMatrix超节点的Scale Up和Scale Out逻辑。
