大模型之背景知识

人工智能的历史

第一阶段--符号智能

第二阶段--专用智能

第三阶段--通用智能

大模型的特点与能力：

量变到质变涌现智能

大模型的主要问题：

严重的计算效率问题

从 BERT 到 GPT4，在过去5年间，大模型参数增长 1.6 万倍，数据增长4万倍大模型能力增长的同时带来了严重的计算效率问题