逐浪 · 第五篇:最近,我在购物车里放了十本AI理论书
摘要:作为一个跨制造业、金融、AI三个领域的工程师,我最近往购物车放了十本理论书。这不是读书心得(书还在购物车),而是一份冲动前的备忘录——想重新捡起推导的习惯,带着公式去参加华为INSPIRE大会。
念念不忘,必有回响。用一切资源,创确定价值。
先坦白:这篇不是"读书心得",因为书还在购物车里。
这是一份冲动前的备忘录,写给自己,也写给可能同路的人。
前两天读到费曼一句话,突然就坐不住了:
"科学知识是建立在数学推导和实验验证之上的,而不是建立在直觉或想象之上的。"
想想自己,每天刷"重磅""颠覆",调用模型、调温度参数、写Skill、开发Agent、二开JiuwenClaw,忙得不亦乐乎。可仔细一琢磨,我的"推导肌肉"好像好久没练了。本科信息与计算科学那点底子,工作十几年后,已经快被"跑起来就行"给磨没了。
于是就做了件很自然的事:打开购物App,往购物车里塞了一堆数学和AI理论书。不是为了收藏,是真的想在下班后,一张纸一支笔,把公式推一推,把脑子里的模糊变成确定。
所以这篇不是硬广书单,也不是"必读清单",就是一个跨界工程师的学习备忘录。我把它写下来,是为了自监督,也是为了记录下此刻的想法。
为什么突然想推公式了?
其实这个念头早有伏笔。年前大规模面试时,有位面试官问了我一个关于反向传播的问题,我支支吾吾说不是只有正向传播吗,第一次听反向传播。那一刻的窘迫,至今记忆犹新。
后来我把桌面壁纸换成了一张写着"1986年,杰弗里·辛顿将反向传播技术应用于深度学习"的图。每次看到它,就像在提醒我:有些美好的东西让我神往.......
上个月去北京参加了ICLR 2026论文分享会。现场听博世的张志洲博士讲《From Cheap Geometry to Expensive Physics》,人大林宁同学讲《Reducing Symmetry Increase in Equivariant Neural Networks》,台上那些严丝合缝的数学推导像精密齿轮咬合,我坐在台下,心里只有一个念头:这些东西,我如果推一遍,会不会也长在自己身上?
然后6月5号华为INSPIRE大会又要开了。理论还没啃透,就要去听落地实践。古人说"纸上得来终觉浅,绝知此事要躬行",我总觉得理实结合才是最好的学习方式:带着半懂不懂的概念去参会,最多听个热闹;带着能写出来的公式去,再结合实践验证,才能真正融会贯通。
于是就有了这份"冲动购物单"。
说起来,这三本书也恰好契合了华为INSPIRE大会的主题方向:
- 《信息论基础》 → 理解大模型的"通信本质",对应大会的AI基础理论探讨
- 《模式识别与机器学习》 → 掌握贝叶斯框架,对应大会的AI工程化实践
- 《深度学习》 → 夯实神经网络基础,对应大会的大模型落地应用
带着这些理论基础去参会,相信能更好地理解分享嘉宾的技术洞察。
书还在路上,但我已经想好先啃哪三本
购物车里躺了十来本,认准了先拿下三本"硬骨头"。不是别的不好,是贪多嚼不烂。
1. 《信息论基础》(Cover & Thomas)
本科时学过,当时只觉得熵是个公式。工作后越久越发现,信息熵、互信息、信道容量,这些东西简直无处不在——模型的不确定性、温度参数的物理意义、RAG里的相关性度量。
但我已经没法从第一性原理把它讲明白了。
目标:重新推导一遍全书的核心公式,顺便把手写笔记扫描成电子版,万一有人想要呢。
2. 《模式识别与机器学习》(Bishop)
圈里都叫它PRML,贝叶斯机器学习的圣经。说实话,我有点怕这本书,听说第一章的多项式拟合就要推导三遍才算懂。但怕归怕,心里又痒——因为我知道,读懂了它,眼睛里看什么模型都是概率图。
目标:至少把前三章啃下来,再把自己工作中的校验逻辑用贝叶斯视角重写一遍。
3. 《深度学习》(Goodfellow et al.)
花书。三位奠基人写的,从线性代数、概率论一直推到深度网络。我不指望读完就能发论文,只想搞明白:梯度下降为啥有时候掉坑里?Transformer的注意力机制跟图模型啥关系?
目标:把优化那一章吃透,再看能不能写出几篇"小笔记"发在掘金。
其他备选,先放在购物车"稍后"
我不会假装自己只读这三本。购物车里还有:
| 书名 | 为什么放进去 |
|---|---|
| 《概率图模型:原理与技术》 | 想理解Bert/GPT注意力背后的条件依赖 |
| 《强化学习(第2版)》 | Agent的终极教材,跟我的工作直接相关 |
| 《统计学习导论》 | 也许某天需要快速重温回归/分类 |
| 《信息论、推理与学习算法》 | 剑桥风格,把三者熔于一炉,想想就过瘾 |
| 《人工智能数学方法》 | 工具书,需要查公式的时候翻翻 |
| 《通信的数学理论》 | 香农原作,薄薄一册,买来致敬 |
| 《统计至简》 | 宇宙、量子讲概率,适合地铁上翻 |
等前三本啃完,哪本最需要,就再买实体。
我的学习计划(自监督式)
时间紧张是实话。白天项目交付、写Agent、调华为云CCE,晚上有时还要看公众号的大模型行业直播。所以我不想给自己画一张"每周五章"的大饼——那种计划我从来做不到。
真实的计划是:
- 用碎片时间先"过":通勤、午休、睡前,翻纸质版,画重点,找不懂的地方。
- 每周至少一次整块推导:找个周末下午,去高校图书馆(或者家里书房关上门),手推一两个核心公式。
- 写出来:如果学有余力,就在掘金发点笔记。不是炫耀,是"费曼学习法"——教给别人,自己才真懂。
一个跨界者的"理论底气"
有人问过我:"你学这些数学推导,跟你写Python、调用模型、弄华为云CCE有什么关系?"
我画过一张表,自己复盘时用的:
| 理论 | 在制造业时用在哪 | 在金融时用在哪 | 现在AI用在哪 |
|---|---|---|---|
| 信息熵 | 产线通信协议效率 | 行情波动率度量 | 模型不确定性量化 |
| 贝叶斯推理 | 设备故障根因定位 | 反欺诈实时概率 | RAG知识置信度 |
| 优化理论 | 排产算法收敛性 | 资产组合风险最小化 | 梯度下降变体理解 |
看不懂没关系。我想表达的是:行业会换、语言会换、框架会换,但数学不会换。
每次转型,我都是靠着底层的推导能力,而不是重新学一遍"怎么用"。
这大概就是费曼那句话的重量。
自监督:理实结合的学习闭环
这份书单和计划,是我对自己的承诺。
我把它写下来,是为了自监督,也是为了构建理实结合的学习闭环:
- 理论打底:从公式推导入手,建立第一性原理认知
- 实践验证:把理论用到实际项目中,检验理解是否正确
- 迭代反馈:通过实践发现理论盲区,再回到书本寻找答案
如果后续写学习笔记,我会随手记下进度:读到哪章、哪个公式有启发、哪里还没懂。这是我自己的记录,不为给谁看。
周末我打算先去高校图书馆,看看能不能偶遇这些书。 不为别的,只为三件事:一是感受一下纸质书的质感,二是理实结合——学一个公式,就用代码跑通验证一次;三是打好理论基础,为以后有机会写点东西做准备。
《逐浪》第五篇。前四篇:AI浪潮扑过来时我选择跳上去、AI把人放大、CS末日论喧嚣时我为什么更坚定、具身智能开启AI新范式,这一篇回到书桌前。
#AI学习 #信息论 #学习打卡 #跨界工程师
本文写于 2026-05-06
书还在购物车,拿到书后,我会在评论区晒图。也欢迎你晒出最近在读的书。念念不忘,必有回响。
标签:#AI书单 #信息论 #学习打卡 #跨界工程师