黄仁勋的 AI “五层蛋糕”架构解析
说明:本文基于 NVIDIA CEO 黄仁勋在 2026 年达沃斯世界经济论坛(WEF)及 NVIDIA 官方博客中提出的“AI 是五层蛋糕”(AI is a 5-layer cake)框架整理。五层自下而上依次为:能源(Energy)→ 芯片(Chips)→ 基础设施(Infrastructure)→ 大模型(Models)→ 应用(Applications)。每一层既是独立产业,又共同构成 AI 的完整价值链。
来源:NVIDIA Blog - Jensen Huang on AI's Five-Layer Cake at Davos、Crypto Briefing 对五层蛋糕的解释
0. 五层架构总览
| 层级 | 核心作用 | 对应产业 | 代表厂商/产品 | 典型应用场景 |
|---|---|---|---|---|
| 能源层 | 为芯片与数据中心提供稳定、可持续电力 | 电力公用事业、核电、可再生能源、电网 | Constellation Energy、Talen Energy、Kairos Power、NextEra Energy | AI 数据中心供电、24/7 无碳电力、电网稳定 |
| 芯片层 | 执行 AI 训练与推理的算力核心 | 半导体设计、晶圆代工、先进封装 | NVIDIA H100/B200/GB200、AMD MI300X、Google TPU、华为昇腾 | 大模型训练、推理加速、边缘 AI |
| 基础设施层 | 把芯片组织成可扩展、高可用的 AI 工厂 | 数据中心、服务器、网络、存储、液冷 | NVIDIA DGX SuperPOD、AWS/Azure/GCP、Dell、VAST Data、Vertiv | AI 工厂、超算集群、云 AI 服务 |
| 大模型层 | 提供通用或垂直领域的基础模型能力 | 基础模型研发、MaaS、数据服务 | OpenAI GPT-4o/o1、Google Gemini、Meta Llama、DeepSeek-V3/R1 | 语言理解、代码生成、多模态、科学计算 |
| 应用层 | 将 AI 能力转化为具体业务价值 | 医疗、金融、制造、零售、交通、教育等 | Microsoft 365 Copilot、GitHub Copilot、Viz.ai、Tesla FSD | AI copilot、AI agent、自动驾驶、药物研发 |
黄仁勋的核心观点:“能源喂养芯片,芯片喂养基础设施,基础设施喂养模型,模型喂养应用;应用层最终创造经济价值,并反向拉动下层投资。”
1. 能源层(Energy)
1.1 作用
- 为芯片制造、数据中心运行提供持续电力,是 AI 价值链的最底层。
- AI 训练与推理的电力需求激增:单个超大规模 AI 数据中心功耗可达数百兆瓦(MW)甚至吉瓦(GW)级别。
- 稳定、低碳、低成本的电力成为 AI 基础设施竞争力的关键。
1.2 对应产业
电力公用事业、可再生能源(风/光)、核电(传统核电与小型模块化反应堆 SMR)、天然气发电、电网输配电、能源交易与长期购电协议(PPA)。
1.3 主要厂商与动态
| 类别 | 代表厂商/项目 | 说明 |
|---|---|---|
| 传统公用事业 | Constellation Energy、Vistra、Duke Energy、NextEra Energy、Talen Energy、Dominion Energy | 为数据中心提供大规模电力和 PPA |
| 核电/SMR | Kairos Power、TerraPower、NuScale、X-energy | 小型模块化反应堆,提供 24/7 无碳基荷电力 |
| 大型购电方 | Microsoft、Amazon、Google、Meta | 通过长期 PPA 锁定核能/可再生能源 |
- Microsoft 与 Constellation Energy 签署 20 年协议,重启三里岛(Three Mile Island)核电站部分机组,为数据中心提供 835 MW 电力。
- Google 与 Kairos Power 签订 500 MW SMR 购电协议。
- Amazon 以 6.5 亿美元收购 Talen Energy 核电数据中心,并签署 1,920 MW 核电供应协议。
来源:CNET - Amazon and Google Sign Nuclear Energy Deals、ZScoreX - Constellation Energy 分析、energyplanets - Amazon 核电协议
1.4 应用场景
- 超大规模 AI 数据中心供电
- 24/7 无碳基荷电力保障
- 电网稳定性与备用电源
- 芯片制造厂(Fab)高可靠电力
2. 芯片层(Chips)
2.1 作用
- 芯片是 AI 计算的直接执行单元,决定模型训练速度、推理成本与可部署规模。
- 包括 GPU、TPU、NPU、DPU、CPU、FPGA 及各类 AI 专用加速器(ASIC)。
2.2 对应产业
半导体设计、晶圆制造(Foundry)、先进封装(CoWoS、3D 封装)、EDA 工具、IP 授权、测试封装。
2.3 主流供应商及产品
| 厂商 | 代表产品/系列 | 特点 |
|---|---|---|
| NVIDIA | H100、H200、B200、B300、GB200 Grace Blackwell Superchip、Vera Rubin(2026)、NVLink/NVSwitch | 数据中心 AI 训练/推理霸主,提供 GPU + 互联 + 软件全栈 |
| AMD | Instinct MI300X、MI325X、MI355X | 大显存、高算力,ROCm 生态逐步完善 |
| Intel | Gaudi 2/3、Xeon CPU、Falcon Shores(GPU 路线) | 数据中心 CPU 与 AI 加速器并重 |
| TPU v5p、v6e、Ironwood | 自研张量处理单元,服务 Google Cloud 与内部模型训练 | |
| Amazon | Trainium2/3、Inferentia2 | AWS 自研训练/推理芯片,降低成本 |
| Microsoft | Maia 100 | Azure 自研 AI 加速器 |
| Meta | MTIA(Meta Training and Inference Accelerator) | 服务 Meta 推荐与 AI 工作负载 |
| Qualcomm / Apple | Snapdragon X Elite、Apple Silicon Neural Engine | 端侧 AI、PC/手机 NPU |
| 中国厂商 | 华为昇腾 910C/950、寒武纪 MLU690、百度昆仑芯、海光信息 DCU | 国产替代与自主可控算力 |
| 代工厂/封装 | TSMC、Samsung Foundry、Intel Foundry、ASE、Amkor | 先进制程与 CoWoS/3D 封装 |
来源:MirrorFrog AI 算力卡路线图、Prompt20 - NVIDIA AI GPU Lineup 2026、MarketsandMarkets - US AI Chip Market
2.4 应用场景
- 大模型预训练与微调
- 推理服务与模型部署
- 科学计算与仿真
- 自动驾驶、机器人端侧推理
- 医疗影像 AI、药物分子模拟
3. 基础设施层(Infrastructure)
3.1 作用
- 将单个芯片组织成可扩展、可调度、高可用的 AI 计算集群与数据中心,支撑模型训练、推理与应用部署。
- 黄仁勋将其称为“AI 工厂”(AI Factory):不是传统数据中心,而是实时制造智能的生产设施。
3.2 对应产业
超大规模数据中心建设与运营、服务器 OEM、网络设备、存储系统、液冷与电源、云计算服务、AI 工厂运营商。
3.3 主要厂商
| 类别 | 代表厂商/产品 |
|---|---|
| 云/AI 工厂 | AWS、Microsoft Azure、Google Cloud、Oracle Cloud、CoreWeave、Lambda、Crusoe、Equinix、Digital Realty |
| 服务器/整机 | Dell、HPE、Supermicro、Lenovo、ASUS、Gigabyte、Quanta、Wiwynn、Foxconn |
| 网络互联 | NVIDIA(Mellanox InfiniBand、Spectrum-X Ethernet、ConnectX/BlueField DPU)、Cisco、Arista、Juniper |
| 存储 | DDN、VAST Data、Pure Storage、Weka、NetApp、Cloudian |
| 冷却/电源 | Vertiv、Schneider Electric、CoolIT、Stulz、nVent |
来源:American Compute - AI Factory 产品阶梯、TRG Datacenters - NVIDIA DGX 组件
3.4 构成与关键技术
基础设施层可细分为以下子系统:
1)计算节点
- GPU 服务器/整机:NVIDIA DGX B200/GB200、HGX 基板(8 GPU 通过 NVLink/NVSwitch 互联)。
- CPU:NVIDIA Grace、AMD EPYC、Intel Xeon,负责系统管理、数据预处理与部分负载。
- DPU/IPU:NVIDIA BlueField、Intel IPU、Marvell OCTEON,用于卸载网络、存储与安全任务。
2)高速互联网络
- NVLink / NVSwitch:GPU 芯片间超高带宽直连,消除模型分片需求;最新 NVLink 提供 TB/s 级吞吐量。
- InfiniBand:高性能计算与 AI 训练主流网络,低延迟、高带宽;NVIDIA Quantum-X800 为代表。
- RDMA over Ethernet / Spectrum-X:面向 AI 数据中心的以太网 RDMA 方案。
- CPO(Co-Packaged Optics,共封装光学):将光引擎与交换芯片封装在一起,提升带宽密度、降低功耗与信号衰减,是未来 AI 网络互联的关键方向。
来源:NVIDIA DGX SuperPOD 文档、VentureBeat - DGX SuperPOD Rubin、Molex - CPO for AI Data Centers
3)存储系统
- 并行文件系统:Lustre、GPFS、BeeGFS,满足大规模训练的高吞吐读写。
- 全闪存/对象存储:VAST Data、Pure Storage、DDN,用于模型检查点、数据集与推理上下文存储。
- 低延迟内存池:NVIDIA Inference Context Memory Storage Platform 等新一代推理存储架构。
4)软件栈与编排
- 集群调度:Kubernetes、Slurm、NVIDIA Base Command Manager、NVIDIA Mission Control。
- 虚拟化与多租户:GPU 虚拟化(MIG、vGPU)、容器化、网络隔离。
- 遥测与 RAS:实时监控 GPU/网络/存储健康,故障预测与自愈,保障训练任务不中断。
5)电力与散热
- 液冷技术:直接液冷(Direct Liquid Cooling)、浸没式液冷(Immersion Cooling),应对单机柜数十 kW 甚至 MW 级热密度。
- 精密配电与 UPS:高压直流、模块化 UPS、智能 PDU。
- 余热回收与可再生能源集成:提升 PUE(能源利用效率)与可持续性。
来源:NVIDIA DGX SuperPOD 架构文档、IntuitionLabs - NVIDIA HGX 数据中心要求
3.5 应用场景
- 超大规模大模型训练集群
- 企业私有 AI 云与混合云
- 实时推理服务与模型即服务(MaaS)
- 科学计算、药物发现、自动驾驶仿真
4. 大模型层(Models)
4.1 作用
- 提供通用或垂直领域的 foundation models,是 AI 应用能力的基础。
- 模型层将底层算力转化为可复用的智能能力(语言理解、推理、代码、多模态、科学计算等)。
4.2 对应产业
基础模型研发、模型即服务(MaaS)、数据标注与合成、模型微调/对齐、AI 安全与治理。
4.3 主流供应商及产品
| 厂商/组织 | 代表模型/产品 | 特点 |
|---|---|---|
| OpenAI | GPT-4o、GPT-4.5、o1/o3(推理模型)、ChatGPT、Sora | 闭源领先,ChatGPT 用户数亿 |
| Google DeepMind | Gemini 1.5/2.0/2.5 Pro/Flash、Gemma(开源) | 原生多模态、超长上下文 |
| Anthropic | Claude 3.5 Sonnet/Opus、Claude 4 | 安全对齐、长上下文、企业应用 |
| Meta | Llama 3/3.1/3.3、Llama 4 Scout/Maverick | 开源权重,生态广泛 |
| xAI | Grok 2/3 | 与 X/Tesla 生态结合 |
| Mistral AI | Mistral Large、Mixtral | 欧洲开源/商用模型代表 |
| Cohere / AI21 | Command、Jurassic | 企业级语言模型 |
| Stability AI | Stable Diffusion、Stable Video | 图像/视频生成 |
| 中国厂商 | ||
| 百度 | 文心一言(ERNIE Bot)、ERNIE 4.0 | 中文搜索与知识增强 |
| 阿里巴巴 | 通义千问(Qwen 2.5/3) | 开源与商用并重 |
| 腾讯 | 混元大模型(Hunyuan) | 社交、游戏、企业服务 |
| 字节跳动 | 豆包大模型 | 内容平台与办公 |
| DeepSeek | DeepSeek-V3/R1 | 高性价比开源推理模型 |
| 智谱 AI | GLM-4 | 中文大模型 |
| 月之暗面 | Kimi | 长文本处理 |
| 零一万物 | Yi 系列 | 开源与商业模型 |
来源:SAP Insiders - AI Model Landscape 2025-2026、DeepSeek 技术社区 - 全球大模型一览表
4.4 应用场景
- 自然语言处理、文本生成、翻译、摘要
- 代码生成与软件工程(GitHub Copilot、Cursor)
- 多模态理解与生成(图像、视频、音频)
- 科学计算(AlphaFold、材料设计、气候模拟)
- 医疗问答、病历生成、医学影像报告
5. 应用层(Applications)
5.1 作用
- 将大模型能力封装为具体产品与服务,直接创造经济价值。
- 黄仁勋指出:应用层是经济收益最终发生的地方,也是拉动能源、芯片、基础设施、模型四层投资的源头。
5.2 对应产业
医疗、金融、制造、零售、交通、教育、法律、娱乐、政务、农业等几乎所有行业。
5.3 主流供应商及产品
| 行业/场景 | 代表产品/厂商 | 说明 |
|---|---|---|
| 企业办公 | Microsoft 365 Copilot、Google Workspace Gemini、Notion AI | 文档、邮件、会议、知识管理 |
| 编程开发 | GitHub Copilot、Cursor、Claude Code、Devin | 代码补全、自动化开发、Agent 编程 |
| 医疗健康 | Nuance DAX / Abridge(临床文档)、Viz.ai / Aidoc(影像 AI)、Tempus(肿瘤精准医疗)、Epic AI | 提升诊断效率、减轻医生文书负担 |
| 金融服务 | Bloomberg GPT、Kensho、各类风控/投顾 Agent | 投研、风控、合规、客户服务 |
| 制造/工业 | Siemens Industrial Copilot、GE Vernova、Bosch、Tesla Optimus | 设备运维、质量控制、机器人 |
| 自动驾驶 | Tesla FSD、Waymo、Apollo(百度) | 端到端自动驾驶与仿真 |
| 搜索/信息 | Google Search AI Overviews、Perplexity、OpenAI SearchGPT | AI 原生搜索与知识问答 |
| 营销/创意 | Adobe Firefly、Canva Magic Studio、Runway、ElevenLabs | 图像/视频/音频生成 |
| 企业服务 | Salesforce Einstein、ServiceNow AI、SAP Joule、Workday AI | CRM、ERP、ITSM 智能化 |
| 中国应用 | 百度文心一言 App、阿里通义千问 App、腾讯元宝、字节豆包、Kimi | 面向 C 端与 B 端的智能助手 |
5.4 应用场景
- AI Copilot:辅助人类完成文档、代码、设计、诊疗等任务。
- AI Agent:自主规划、调用工具、执行多步骤任务(如理赔处理、供应链调度、科研实验设计)。
- 智能客服与销售:7×24 小时多语言客户支持。
- 药物研发:AI 设计分子、预测蛋白质结构、自动化实验。
- 自动驾驶与机器人:感知、决策、控制一体化。
- 个性化教育与内容创作:自适应学习、AI 生成视频/音乐/游戏素材。
6. 五层之间的协同关系与发展趋势
6.1 协同关系
应用层(Applications)
↑ 拉动需求
大模型层(Models)
↑ 需要算力与数据
基础设施层(Infrastructure)
↑ 需要芯片与互联
芯片层(Chips)
↑ 需要电力与制造
能源层(Energy)
- 需求级联(Demand Cascade):每一款成功的 AI 应用都会向下拉动对模型、算力、数据中心、芯片和能源的需求。
- 基础设施决定上限:没有足够电力和算力,模型规模与应用创新都会受限。
- 开源模型加速应用层:DeepSeek-R1 等开源模型降低了应用开发门槛,扩大了应用层规模,进而拉动下层投资。
6.2 发展趋势
- AI 工厂化:数据中心从通用 IT 设施演变为专门生产智能的 AI Factory,强调高功率密度、液冷、光学互联。
- 能源结构转型:核电、SMR、可再生能源与储能成为数据中心能源核心。
- 芯片多元化:NVIDIA 仍占主导,但 AMD、Intel、Google TPU、Amazon Trainium、国产昇腾等竞争加剧。
- 开源与闭源并行:OpenAI/Anthropic 闭源领先,Meta Llama、DeepSeek、Qwen 等开源模型推动生态繁荣。
- Agentic AI 成为应用层主流:从“Copilot 辅助”向“Agent 自主执行”演进。
- 垂直行业大模型:医疗、金融、制造、法律等领域专用模型快速落地。
7. 参考资料
- NVIDIA Blog - Jensen Huang on AI's Five-Layer Cake at Davos
- Crypto Briefing - The five-layer cake, explained
- CNET - Amazon and Google Sign Nuclear Energy Deals
- MirrorFrog - AI 算力卡未来路线图 2025-2028
- Prompt20 - NVIDIA AI GPU Lineup 2026
- MarketsandMarkets - US AI Chip Market
- NVIDIA DGX SuperPOD 组件文档
- NVIDIA DGX SuperPOD 架构文档
- Molex - Co-Packaged Optics for AI Data Centers
- VentureBeat - DGX SuperPOD sets stage for Rubin
- SAP Insiders - AI Model Landscape 2025-2026
- DeepSeek 技术社区 - 全球大模型一览表(2026年6月)
- mobikasa - Agentic AI Trends 2026
本文仅作架构解析与资料汇编,具体产品规格、市场表现与合作状态请以各厂商官方最新发布为准。