智能革命

DeepseekV3.2, 20251201 背景，开源与闭源差距在拉大，闭源 GPT5, Gemini3 领先。为了缩小差距需要投入更大算力，但后训练资源超过了预训练的 10%，需要提升训练效率

硬件设施 比特币出现后算力逐渐走到台前，比特币挖矿的衡量标准是哈希率 hash rate，每秒能计算多少个哈希值。 AI 大模型的深度学习模型基于神经网络结构，计算过程可以被视为大量矩阵计算的组合。N

大模型模式 基础大模型 基于大量数据训练而成，基于历史 token 预测概率最大的 next token，拥有“对话”的能力，例如 GPT。 微调大模型 基于基础大模型微调而成，需要输入输出训练集，例

导读 GPT 近期密集爆发，作为普通人，我们可以不了解技术的细节，但不能不知道他的前世今生，以及更重要的要学会如何使用这个工具。 G-Generative, P-Pretrained

本文以 2023.03.24 的 paper 作为基础，拆解最前沿对 GPT 智能的研究。 1.从智能开始 研究团队以 1994 年的智能定义为基础