AI-五层蛋糕

0 阅读12分钟

黄仁勋的 AI “五层蛋糕”架构解析

说明:本文基于 NVIDIA CEO 黄仁勋在 2026 年达沃斯世界经济论坛(WEF)及 NVIDIA 官方博客中提出的“AI 是五层蛋糕”(AI is a 5-layer cake)框架整理。五层自下而上依次为:能源(Energy)→ 芯片(Chips)→ 基础设施(Infrastructure)→ 大模型(Models)→ 应用(Applications)。每一层既是独立产业,又共同构成 AI 的完整价值链。

来源:NVIDIA Blog - Jensen Huang on AI's Five-Layer Cake at DavosCrypto Briefing 对五层蛋糕的解释


0. 五层架构总览

层级核心作用对应产业代表厂商/产品典型应用场景
能源层为芯片与数据中心提供稳定、可持续电力电力公用事业、核电、可再生能源、电网Constellation Energy、Talen Energy、Kairos Power、NextEra EnergyAI 数据中心供电、24/7 无碳电力、电网稳定
芯片层执行 AI 训练与推理的算力核心半导体设计、晶圆代工、先进封装NVIDIA H100/B200/GB200、AMD MI300X、Google TPU、华为昇腾大模型训练、推理加速、边缘 AI
基础设施层把芯片组织成可扩展、高可用的 AI 工厂数据中心、服务器、网络、存储、液冷NVIDIA DGX SuperPOD、AWS/Azure/GCP、Dell、VAST Data、VertivAI 工厂、超算集群、云 AI 服务
大模型层提供通用或垂直领域的基础模型能力基础模型研发、MaaS、数据服务OpenAI GPT-4o/o1、Google Gemini、Meta Llama、DeepSeek-V3/R1语言理解、代码生成、多模态、科学计算
应用层将 AI 能力转化为具体业务价值医疗、金融、制造、零售、交通、教育等Microsoft 365 Copilot、GitHub Copilot、Viz.ai、Tesla FSDAI copilot、AI agent、自动驾驶、药物研发

黄仁勋的核心观点:“能源喂养芯片,芯片喂养基础设施,基础设施喂养模型,模型喂养应用;应用层最终创造经济价值,并反向拉动下层投资。”

来源:Crypto Briefing


1. 能源层(Energy)

1.1 作用

  • 为芯片制造、数据中心运行提供持续电力,是 AI 价值链的最底层。
  • AI 训练与推理的电力需求激增:单个超大规模 AI 数据中心功耗可达数百兆瓦(MW)甚至吉瓦(GW)级别。
  • 稳定、低碳、低成本的电力成为 AI 基础设施竞争力的关键。

1.2 对应产业

电力公用事业、可再生能源(风/光)、核电(传统核电与小型模块化反应堆 SMR)、天然气发电、电网输配电、能源交易与长期购电协议(PPA)。

1.3 主要厂商与动态

类别代表厂商/项目说明
传统公用事业Constellation EnergyVistraDuke EnergyNextEra EnergyTalen EnergyDominion Energy为数据中心提供大规模电力和 PPA
核电/SMRKairos PowerTerraPowerNuScaleX-energy小型模块化反应堆,提供 24/7 无碳基荷电力
大型购电方MicrosoftAmazonGoogleMeta通过长期 PPA 锁定核能/可再生能源
  • Microsoft 与 Constellation Energy 签署 20 年协议,重启三里岛(Three Mile Island)核电站部分机组,为数据中心提供 835 MW 电力。
  • Google 与 Kairos Power 签订 500 MW SMR 购电协议。
  • Amazon 以 6.5 亿美元收购 Talen Energy 核电数据中心,并签署 1,920 MW 核电供应协议。

来源:CNET - Amazon and Google Sign Nuclear Energy DealsZScoreX - Constellation Energy 分析energyplanets - Amazon 核电协议

1.4 应用场景

  • 超大规模 AI 数据中心供电
  • 24/7 无碳基荷电力保障
  • 电网稳定性与备用电源
  • 芯片制造厂(Fab)高可靠电力

2. 芯片层(Chips)

2.1 作用

  • 芯片是 AI 计算的直接执行单元,决定模型训练速度、推理成本与可部署规模。
  • 包括 GPU、TPU、NPU、DPU、CPU、FPGA 及各类 AI 专用加速器(ASIC)。

2.2 对应产业

半导体设计、晶圆制造(Foundry)、先进封装(CoWoS、3D 封装)、EDA 工具、IP 授权、测试封装。

2.3 主流供应商及产品

厂商代表产品/系列特点
NVIDIAH100、H200、B200、B300、GB200 Grace Blackwell Superchip、Vera Rubin(2026)、NVLink/NVSwitch数据中心 AI 训练/推理霸主,提供 GPU + 互联 + 软件全栈
AMDInstinct MI300X、MI325X、MI355X大显存、高算力,ROCm 生态逐步完善
IntelGaudi 2/3、Xeon CPU、Falcon Shores(GPU 路线)数据中心 CPU 与 AI 加速器并重
GoogleTPU v5p、v6e、Ironwood自研张量处理单元,服务 Google Cloud 与内部模型训练
AmazonTrainium2/3、Inferentia2AWS 自研训练/推理芯片,降低成本
MicrosoftMaia 100Azure 自研 AI 加速器
MetaMTIA(Meta Training and Inference Accelerator)服务 Meta 推荐与 AI 工作负载
Qualcomm / AppleSnapdragon X Elite、Apple Silicon Neural Engine端侧 AI、PC/手机 NPU
中国厂商华为昇腾 910C/950、寒武纪 MLU690、百度昆仑芯、海光信息 DCU国产替代与自主可控算力
代工厂/封装TSMCSamsung FoundryIntel Foundry、ASE、Amkor先进制程与 CoWoS/3D 封装

来源:MirrorFrog AI 算力卡路线图Prompt20 - NVIDIA AI GPU Lineup 2026MarketsandMarkets - US AI Chip Market

2.4 应用场景

  • 大模型预训练与微调
  • 推理服务与模型部署
  • 科学计算与仿真
  • 自动驾驶、机器人端侧推理
  • 医疗影像 AI、药物分子模拟

3. 基础设施层(Infrastructure)

3.1 作用

  • 将单个芯片组织成可扩展、可调度、高可用的 AI 计算集群与数据中心,支撑模型训练、推理与应用部署。
  • 黄仁勋将其称为“AI 工厂”(AI Factory):不是传统数据中心,而是实时制造智能的生产设施。

3.2 对应产业

超大规模数据中心建设与运营、服务器 OEM、网络设备、存储系统、液冷与电源、云计算服务、AI 工厂运营商。

3.3 主要厂商

类别代表厂商/产品
云/AI 工厂AWS、Microsoft Azure、Google Cloud、Oracle Cloud、CoreWeave、Lambda、Crusoe、Equinix、Digital Realty
服务器/整机Dell、HPE、Supermicro、Lenovo、ASUS、Gigabyte、Quanta、Wiwynn、Foxconn
网络互联NVIDIA(Mellanox InfiniBand、Spectrum-X Ethernet、ConnectX/BlueField DPU)、Cisco、Arista、Juniper
存储DDN、VAST Data、Pure Storage、Weka、NetApp、Cloudian
冷却/电源Vertiv、Schneider Electric、CoolIT、Stulz、nVent

来源:American Compute - AI Factory 产品阶梯TRG Datacenters - NVIDIA DGX 组件

3.4 构成与关键技术

基础设施层可细分为以下子系统:

1)计算节点
  • GPU 服务器/整机:NVIDIA DGX B200/GB200、HGX 基板(8 GPU 通过 NVLink/NVSwitch 互联)。
  • CPU:NVIDIA Grace、AMD EPYC、Intel Xeon,负责系统管理、数据预处理与部分负载。
  • DPU/IPU:NVIDIA BlueField、Intel IPU、Marvell OCTEON,用于卸载网络、存储与安全任务。
2)高速互联网络
  • NVLink / NVSwitch:GPU 芯片间超高带宽直连,消除模型分片需求;最新 NVLink 提供 TB/s 级吞吐量。
  • InfiniBand:高性能计算与 AI 训练主流网络,低延迟、高带宽;NVIDIA Quantum-X800 为代表。
  • RDMA over Ethernet / Spectrum-X:面向 AI 数据中心的以太网 RDMA 方案。
  • CPO(Co-Packaged Optics,共封装光学):将光引擎与交换芯片封装在一起,提升带宽密度、降低功耗与信号衰减,是未来 AI 网络互联的关键方向。

来源:NVIDIA DGX SuperPOD 文档VentureBeat - DGX SuperPOD RubinMolex - CPO for AI Data Centers

3)存储系统
  • 并行文件系统:Lustre、GPFS、BeeGFS,满足大规模训练的高吞吐读写。
  • 全闪存/对象存储:VAST Data、Pure Storage、DDN,用于模型检查点、数据集与推理上下文存储。
  • 低延迟内存池:NVIDIA Inference Context Memory Storage Platform 等新一代推理存储架构。
4)软件栈与编排
  • 集群调度:Kubernetes、Slurm、NVIDIA Base Command Manager、NVIDIA Mission Control。
  • 虚拟化与多租户:GPU 虚拟化(MIG、vGPU)、容器化、网络隔离。
  • 遥测与 RAS:实时监控 GPU/网络/存储健康,故障预测与自愈,保障训练任务不中断。
5)电力与散热
  • 液冷技术:直接液冷(Direct Liquid Cooling)、浸没式液冷(Immersion Cooling),应对单机柜数十 kW 甚至 MW 级热密度。
  • 精密配电与 UPS:高压直流、模块化 UPS、智能 PDU。
  • 余热回收与可再生能源集成:提升 PUE(能源利用效率)与可持续性。

来源:NVIDIA DGX SuperPOD 架构文档IntuitionLabs - NVIDIA HGX 数据中心要求

3.5 应用场景

  • 超大规模大模型训练集群
  • 企业私有 AI 云与混合云
  • 实时推理服务与模型即服务(MaaS)
  • 科学计算、药物发现、自动驾驶仿真

4. 大模型层(Models)

4.1 作用

  • 提供通用或垂直领域的 foundation models,是 AI 应用能力的基础。
  • 模型层将底层算力转化为可复用的智能能力(语言理解、推理、代码、多模态、科学计算等)。

4.2 对应产业

基础模型研发、模型即服务(MaaS)、数据标注与合成、模型微调/对齐、AI 安全与治理。

4.3 主流供应商及产品

厂商/组织代表模型/产品特点
OpenAIGPT-4o、GPT-4.5、o1/o3(推理模型)、ChatGPT、Sora闭源领先,ChatGPT 用户数亿
Google DeepMindGemini 1.5/2.0/2.5 Pro/Flash、Gemma(开源)原生多模态、超长上下文
AnthropicClaude 3.5 Sonnet/Opus、Claude 4安全对齐、长上下文、企业应用
MetaLlama 3/3.1/3.3、Llama 4 Scout/Maverick开源权重,生态广泛
xAIGrok 2/3与 X/Tesla 生态结合
Mistral AIMistral Large、Mixtral欧洲开源/商用模型代表
Cohere / AI21Command、Jurassic企业级语言模型
Stability AIStable Diffusion、Stable Video图像/视频生成
中国厂商
百度文心一言(ERNIE Bot)、ERNIE 4.0中文搜索与知识增强
阿里巴巴通义千问(Qwen 2.5/3)开源与商用并重
腾讯混元大模型(Hunyuan)社交、游戏、企业服务
字节跳动豆包大模型内容平台与办公
DeepSeekDeepSeek-V3/R1高性价比开源推理模型
智谱 AIGLM-4中文大模型
月之暗面Kimi长文本处理
零一万物Yi 系列开源与商业模型

来源:SAP Insiders - AI Model Landscape 2025-2026DeepSeek 技术社区 - 全球大模型一览表

4.4 应用场景

  • 自然语言处理、文本生成、翻译、摘要
  • 代码生成与软件工程(GitHub Copilot、Cursor)
  • 多模态理解与生成(图像、视频、音频)
  • 科学计算(AlphaFold、材料设计、气候模拟)
  • 医疗问答、病历生成、医学影像报告

5. 应用层(Applications)

5.1 作用

  • 将大模型能力封装为具体产品与服务,直接创造经济价值。
  • 黄仁勋指出:应用层是经济收益最终发生的地方,也是拉动能源、芯片、基础设施、模型四层投资的源头。

5.2 对应产业

医疗、金融、制造、零售、交通、教育、法律、娱乐、政务、农业等几乎所有行业。

5.3 主流供应商及产品

行业/场景代表产品/厂商说明
企业办公Microsoft 365 Copilot、Google Workspace Gemini、Notion AI文档、邮件、会议、知识管理
编程开发GitHub Copilot、Cursor、Claude Code、Devin代码补全、自动化开发、Agent 编程
医疗健康Nuance DAX / Abridge(临床文档)、Viz.ai / Aidoc(影像 AI)、Tempus(肿瘤精准医疗)、Epic AI提升诊断效率、减轻医生文书负担
金融服务Bloomberg GPT、Kensho、各类风控/投顾 Agent投研、风控、合规、客户服务
制造/工业Siemens Industrial Copilot、GE Vernova、Bosch、Tesla Optimus设备运维、质量控制、机器人
自动驾驶Tesla FSD、Waymo、Apollo(百度)端到端自动驾驶与仿真
搜索/信息Google Search AI Overviews、Perplexity、OpenAI SearchGPTAI 原生搜索与知识问答
营销/创意Adobe Firefly、Canva Magic Studio、Runway、ElevenLabs图像/视频/音频生成
企业服务Salesforce Einstein、ServiceNow AI、SAP Joule、Workday AICRM、ERP、ITSM 智能化
中国应用百度文心一言 App、阿里通义千问 App、腾讯元宝、字节豆包、Kimi面向 C 端与 B 端的智能助手

来源:NVIDIA Blog - Davos 对话mobikasa - Agentic AI Trends 2026

5.4 应用场景

  • AI Copilot:辅助人类完成文档、代码、设计、诊疗等任务。
  • AI Agent:自主规划、调用工具、执行多步骤任务(如理赔处理、供应链调度、科研实验设计)。
  • 智能客服与销售:7×24 小时多语言客户支持。
  • 药物研发:AI 设计分子、预测蛋白质结构、自动化实验。
  • 自动驾驶与机器人:感知、决策、控制一体化。
  • 个性化教育与内容创作:自适应学习、AI 生成视频/音乐/游戏素材。

6. 五层之间的协同关系与发展趋势

6.1 协同关系

应用层(Applications)
    ↑ 拉动需求
大模型层(Models)
    ↑ 需要算力与数据
基础设施层(Infrastructure)
    ↑ 需要芯片与互联
芯片层(Chips)
    ↑ 需要电力与制造
能源层(Energy)
  • 需求级联(Demand Cascade):每一款成功的 AI 应用都会向下拉动对模型、算力、数据中心、芯片和能源的需求。
  • 基础设施决定上限:没有足够电力和算力,模型规模与应用创新都会受限。
  • 开源模型加速应用层:DeepSeek-R1 等开源模型降低了应用开发门槛,扩大了应用层规模,进而拉动下层投资。

来源:Crypto Briefing

6.2 发展趋势

  1. AI 工厂化:数据中心从通用 IT 设施演变为专门生产智能的 AI Factory,强调高功率密度、液冷、光学互联。
  2. 能源结构转型:核电、SMR、可再生能源与储能成为数据中心能源核心。
  3. 芯片多元化:NVIDIA 仍占主导,但 AMD、Intel、Google TPU、Amazon Trainium、国产昇腾等竞争加剧。
  4. 开源与闭源并行:OpenAI/Anthropic 闭源领先,Meta Llama、DeepSeek、Qwen 等开源模型推动生态繁荣。
  5. Agentic AI 成为应用层主流:从“Copilot 辅助”向“Agent 自主执行”演进。
  6. 垂直行业大模型:医疗、金融、制造、法律等领域专用模型快速落地。

7. 参考资料


本文仅作架构解析与资料汇编,具体产品规格、市场表现与合作状态请以各厂商官方最新发布为准。