第1期-LLM扫盲
🔍 AI进化之路 · 第1期
LLM是什么?一篇文章把AI的底裤看穿
AI进化之路系列 | 从LLM到Agent,带你渐进式通关AI世界
🧠 大模型到底是个啥?
每次有人问我"大模型是什么",我都想反问一句:你用过输入法的联想词吗?
大模型(LLM,Large Language Model)说白了就是一个超级阅读理解机器。你输入法的联想词只能根据前一个词猜下一个词,而大模型是根据你给它的整段上下文来猜下一个最可能出现的词。就这么简单——它的本质就是"接龙",只不过接得特别长、特别好。
打个比方:如果说普通输入法是"我说上半句,你补下半句"的水平,那大模型就是"你给我一个开头,我能帮你写完一整本书"的狠角色。
🧩 一句话总结大模型 = 读遍了互联网的超级学霸 + 会"接龙"的文字游戏高手。你给它一段话,它就预测接下来最该说什么。
至于为什么叫"大"模型——因为参数量真的大。2026年的旗舰模型参数规模已经到了万亿级别(DeepSeek V4 Pro就有1.6万亿参数),训练一次的花费动辄上千万美元。这不是大,什么是大?
🔤 Token:AI世界的最小货币
跟大模型打交道,你逃不开一个词:Token。所有大模型都按Token计费,不是按字、不是按词,是按Token。
那Token到底是什么?你可以把它理解成AI消化文字的最小碎片。AI不直接读汉字或英文单词,它先把所有文字切碎成一个个Token,然后再处理。
// 英文:1个单词 ≈ 1个Token
"Hello" → Hello → 1 Token
// 中文:1个汉字 ≈ 2-3个Token
"你" → 你 → 2 Token
"你好" → 你好 → 3-4 Token
看到没?一个汉字可能吃2-3个Token,而英语1个单词才1个Token。中文用户真是Token税大户,同样一句话,中文的Token消耗可能是英文的2-3倍,钱也得多花2-3倍。所以如果你想让大模型省钱又高效,用英文提问是个小窍门。
测试同学注意了——这就像你测性能时关注的是请求次数而不是页面数。Token就是大模型的"请求次数",是成本核算的基本单位。
📦 上下文窗口:AI的短时记忆
上下文窗口(Context Window)是大模型一次能记住多少东西的上限。
类比一下:你的大脑有短时记忆,让你在聊天时能记住对方刚说了什么。但如果你聊了3个小时,前面的内容就模糊了。大模型也一样——它有个记忆容量上限,超过的部分就得丢掉。
**⚠️ 为什么上下文窗口很重要?**想象你在做测试,测试数据范围就是你的"上下文窗口"。如果被测系统的数据量超过了你的测试范围,你就可能漏测bug。大模型也一样——如果内容超出了上下文窗口,它就"失忆"了,回答质量断崖式下降。
好消息是,2026年的模型上下文窗口已经非常能打了:
| 模型 | 上下文窗口 | 大约等于 |
|---|---|---|
| GPT-5.5 | 100万 Token | ~75万字 / 3部长篇小说 |
| Claude Opus 4.7 | 100万 Token | ~75万字 / 整个代码库 |
| DeepSeek V4 Pro | 100万 Token | ~75万字 |
| Gemini 2.5 Pro | 100万 Token | ~75万字 / 10小时音频 |
| Qwen3.6-27B | 26万 Token(可扩100万) | ~20万字 |
100万Token是什么概念?大约75万字,够塞进去三本《三体》,或者一个中型项目的全部源代码。这在2023年是不可想象的——当时GPT-4只有12.8万Token,塞个需求文档都费劲。
📚 大模型是怎么训练出来的?
大模型的训练可以类比成一个人的学习过程,分三个阶段:
第一阶段:预训练 —— 疯狂读书把整个互联网的文本(网页、书籍、论文、代码……)都喂给它,让它学会"语言的规律"。这个阶段就像一个人从出生到大学毕业,读了几十亿篇文章。模型此时只会"接龙"——给个开头,它接着写,但写得可能对也可能错。
第二阶段:微调(SFT) —— 做作业拿大量"问题-标准答案"对来训练它,让它学会按人的期望来回答问题。就像大学毕业后去实习,有人手把手教你"客户问这个该怎么回"。这个阶段教的是"回答的姿势"。
第三阶段:RLHF —— 老师纠正人类评审员给模型的多个回答打分排序,训练一个"裁判模型"来评判回答好坏,再用这个裁判来指导大模型优化。就像写完作业让老师批改,老师说"这个回答更好,那个回答太敷衍",模型就学会了说人话、不说废话。
三步走完,一个能用的"AI助手"就诞生了。当然,实际训练过程远比这复杂,但对于我们使用者来说,理解到这个程度足够了。
⚡ 大模型能做什么 / 不能做什么?
先说能做的,大模型擅长的事可太多了:
✅ 文本生成:写文章、写代码、写邮件、写诗,啥都能写 ✅ 信息提取:从长文档里找关键信息、总结摘要 ✅ 翻译:多语言互译,质量相当不错 ✅ 对话:客服、教学、咨询,像个知识渊博的聊天对象 ✅ 代码辅助:2026年的旗舰模型在SWE-bench上已经能解决60-80%的真实编程Bug
但别被这些能力冲昏了头脑,大模型有明显的软肋:
🐛 幻觉(Hallucination)—— AI界的Bug大模型会一本正经地胡说八道。你问它一个不存在的历史事件,它可能给你编出一个看起来无比真实的故事,有时间有地点有人物——但全是假的。测试同学想想:这不就是数据造假的Bug吗?输入不在训练集里的内容,模型用概率硬拼,输出一个看似合理实则错误的结果。所以关键信息一定要人工核实!
❌ 精确数学运算:大模型本质上是在"接龙",不是在做计算。你让它算1234×5678,它可能在概率上给你一个"看起来像答案"的数字,但不一定对。就像你凭记忆默写圆周率——写到第20位之后就容易跑偏。
❌ 严格逻辑推理:虽然2026年的模型在推理能力上进步巨大(很多模型都有"思考模式"),但在需要严格逻辑链条的任务上仍然会犯错。逻辑链越长,出错概率越高。
❌ 实时信息:模型的知识有截止日期,训练之后发生的事它不知道。不过现在很多产品通过联网搜索来弥补这个短板。
🏆 2026年主流大模型速览
最后来一张表,把2026年最主流的大模型一网打尽:
| 模型 | 出品 | 上下文 | 输入价格($/百万Token) | 输出价格($/百万Token) | 开源 |
|---|---|---|---|---|---|
| GPT-5.5 | OpenAI | 100万 | 5.00 | 30.00 | 🔴闭源 |
| Claude Opus 4.7 | Anthropic | 100万 | 5.00 | 25.00 | 🔴闭源 |
| DeepSeek V4 Pro | DeepSeek | 100万 | 1.74 | 6.96 | 🟢开源 |
| Gemini 2.5 Pro | 100万 | 1.25 | 10.00 | 🔴闭源 | |
| Qwen3.6-27B | 阿里 | 26万 | 免费自部署 | 免费自部署 | 🟢开源 |
| MiniMax-Text-01 | MiniMax | 400万 | 0.40 | 1.30 | 🟢开源 |
| Kimi K2.6 | 月之暗面 | 26万 | 0.95 | 4.00 | 🟢开源 |
| 混元Hy3 | 腾讯 | 26万 | 0.17 | 0.55 | 🟢开源 |
| GLM-5.1 | 智谱 | 20万 | 0.45 | 1.80 | 🟢开源 |
| 文心5.1 | 百度 | 128K | 1.10 | 4.40 | 🔴闭源 |
| 豆包Seed2.0 Pro | 字节跳动 | 128K | 0.43 | 2.15 | 🔴闭源 |
| Grok 4.3 | xAI | 100万 | 1.25 | 2.50 | 🔴闭源 |
几个观察:
🔹 百万Token上下文已成标配:GPT-5.5、Claude Opus 4.7、DeepSeek V4 Pro、Gemini 2.5 Pro和Grok 4.3的上下文窗口都拉到了100万。而MiniMax-Text-01更是达到了惊人的400万——塞进去12部《三体》都绰绰有余。
🔹 DeepSeek是性价比之王:同为100万Token上下文,DeepSeek V4 Pro的价格只有GPT-5.5的三分之一,还是开源的。难怪大家都说DeepSeek是在用成本价卷死友商。
🔹 国产开源模型强势崛起:MiniMax-Text-01(400万超长上下文)、Kimi K2.6(Agent能力全球领先)、混元Hy3(API全网最低价)、GLM-5.1(SWE-Bench Pro全球第一)——2026年的国产开源模型已经不输海外旗舰。
🔹 混元Hy3是API价格洼地:输入0.55每百万Token,几乎是所有主流模型中最便宜的,比Gemini还便宜一大截。
🔹 Qwen3.6开源之光:27B参数的模型,编程能力竟然超过了397B参数的前代旗舰,而且可以免费本地部署。
🔹 Grok 4.3强势入局:xAI的Grok 4.3也加入了百万Token上下文俱乐部,推理能力不容小觑。
🎯 小结
好了,大模型的核心概念就这些:
📌 大模型 = 超级阅读理解机器,本质是文字接龙 📌 Token = AI消化文字的最小碎片,中文吃亏 📌 上下文窗口 = AI的短时记忆,100万Token已成标配 📌 训练三步走 = 读书→做作业→老师纠正 📌 幻觉 = AI的Bug,关键信息必须人工核实 📌 选模型看性价比,不贵的不一定差
搞清楚这些,你就算入了大模型的门了。但光知道LLM是什么还不够——怎么跟它说话才能让它听懂?怎么写提示词才能得到你想要的结果?
📖 下期预告:第2期 · Prompt Engineering为什么同一个模型,有人用出神效,有人用出废话?差距就在Prompt——跟AI说话的艺术。下期教你:如何用一句话让AI从"智障"变"智囊"