大家好，我是吾鳴。
今天吾鳴要给大家分享一份由清华大学郑纬民教授出品的关于人工智能大模型的几点思考，报告主要从人工智能大模型的时代背景与现状、数据预处理优化技术、国产智算系统与核心软件生态、大模型推理优化与成本控制等。报告一共71页，文末附上完整版下载地址。
内容摘要
人工智能大模型的时代背景与现状
大模型从单模态向多模态发展，行业应用广泛（金融、医疗、汽车等），推动智能化升级。案例包括ChatGPT、阿里云视频生成模型等，显著提升效率。
大模型生命周期的五个核心环节
数据获取（多模态小文件存储挑战）、预处理（随机读取瓶颈）、训练（海量算力需求）、微调（可控算力）、推理（实时算力要求），各环节对算力与存储需求爆发式增长。
海量小文件存储解决方案
提出SuperFS系统，通过解耦目录与文件元数据，兼顾低延迟与可扩展性，在IO500评测中多次全球第一，显著降低文件操作延迟。
数据预处理优化技术
诸葛弩引擎以数据为中心，动态调度计算任务至数据节点，减少网络开销，在Minhash算法中性能比PySpark提升4.2倍。
模型训练检查点优化
神威平台采用分布式检查点策略，将数据均匀分布至所有节点，解决大规模训练中的存储瓶颈，检查点写入时间从3小时缩短至10分钟。
国产智算系统与核心软件生态
面临国产芯片生态薄弱问题，提出“八卦炉”基础软件集（并行加速、编译器、存储系统等），适配国产超算与芯片，支持百川、LLaMA等大模型训练。
大模型推理优化与成本控制
FastDecode利用CPU主存处理KV-Cache，提升吞吐；Mooncake架构通过分离式缓存池复用KVCache，降低75%算力开销，支撑Kimi等应用。
企业应用AI大模型的路径
三步走：选择基础模型、微调、数据准备；强调高质量数据的重要性，解决企业核心问题需结合业务场景。
总结与未来挑战
中美AI差距约半年，国产算力软件生态是关键；需构建万卡系统，优化异构训练，重视工程基建与算法创新。
行业会议与资源规划
2025年QCon与MCon会议聚焦大模型、AI Agent、多模态等技术，推动技术与应用融合。
