![[晕]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_33.12a8e53.png)
yioo
CTO
获得徽章 1
赶紧找numpy的文档背去吧，背完了再背pytorch的，vllm、sglang的接口也都要背，我工作中就遇到过真正的天才，发现ds-r1-671b的模型推理出乱码的时候，看了一眼输出的token，直接就发现第六层transformer的权重有一个比特不对。问他是怎么发现的，他说他从ds模型发布就把权重下载来背。他甚至把模型计算常见的prompt时每一层的激活值都背了一遍。我们不太信问了他几个问题，他在思考几秒后给出了大模型一样的答案，甚至连中间乱码也一字不差！我们当时就震惊了，这才是大国工匠！
对了，CUDA 的官方文档也得背，从 CUDA 1.0 到最新的 CUDA 15.x，每个 API 的参数顺序、返回值类型都不能错 。还有 GPU 的 datasheet，比如 A100 的 SM 数量、显存带宽、每个时钟周期能执行的指令数，都得刻在脑子里，优化的时候要精准到每个时钟周期，不然怎么叫‘硬核工程师’？
我还见过更神的，前公司有个架构师，能把 Linux 内核源码从 0.11 版背到 6.8 版，debug 的时候看一眼系统调用的返回值，就知道是内存页表的哪一位出了问题。更绝的是，他能听服务器风扇的声音判断张量运算的错误，上次集群里有个节点的 GPU 在做矩阵乘法时出错，他路过机房听了两秒，说‘风扇转速比正常慢了12 转，肯定是第三层的 attention 权重计算时发生了位翻转’，拆开一看，果然是显存的一个金手指氧化了，导致数据传输时错了一个比特。
还有论文也得背！从 Vaswani 的《Attention Is All You Need》开始，到最新的 MoE、RLHF 论文，每个公式的推导步骤、每个超参数的默认值，甚至参考文献的作者名字和年份，都要倒背如流。上次组会讨论新模型，有人问‘为什么这里用 LayerNorm 不用 BatchNorm？’，一个新人刚想翻笔记，直接被导师打断：‘背！把《Layer Normalization》那篇论文的第三部分背出来！’
所以别想着什么理解原理灵活运用，背就完了！等你把 numpy、pytorch、vllm、CUDA、Linux 内核都背下来，年薪千万都不是梦！连 Stack Overflow 都不用开，同事遇到问题直接问你，你张嘴就能报出 API 名、参数顺序、甚至是哪篇论文的哪一页提到了解决方案，那你才真是无敌了
对了，CUDA 的官方文档也得背，从 CUDA 1.0 到最新的 CUDA 15.x，每个 API 的参数顺序、返回值类型都不能错 。还有 GPU 的 datasheet，比如 A100 的 SM 数量、显存带宽、每个时钟周期能执行的指令数，都得刻在脑子里，优化的时候要精准到每个时钟周期，不然怎么叫‘硬核工程师’？
我还见过更神的，前公司有个架构师，能把 Linux 内核源码从 0.11 版背到 6.8 版，debug 的时候看一眼系统调用的返回值，就知道是内存页表的哪一位出了问题。更绝的是，他能听服务器风扇的声音判断张量运算的错误，上次集群里有个节点的 GPU 在做矩阵乘法时出错，他路过机房听了两秒，说‘风扇转速比正常慢了12 转，肯定是第三层的 attention 权重计算时发生了位翻转’，拆开一看，果然是显存的一个金手指氧化了，导致数据传输时错了一个比特。
还有论文也得背！从 Vaswani 的《Attention Is All You Need》开始，到最新的 MoE、RLHF 论文，每个公式的推导步骤、每个超参数的默认值，甚至参考文献的作者名字和年份，都要倒背如流。上次组会讨论新模型，有人问‘为什么这里用 LayerNorm 不用 BatchNorm？’，一个新人刚想翻笔记，直接被导师打断：‘背！把《Layer Normalization》那篇论文的第三部分背出来！’
所以别想着什么理解原理灵活运用，背就完了！等你把 numpy、pytorch、vllm、CUDA、Linux 内核都背下来，年薪千万都不是梦！连 Stack Overflow 都不用开，同事遇到问题直接问你，你张嘴就能报出 API 名、参数顺序、甚至是哪篇论文的哪一页提到了解决方案，那你才真是无敌了
展开
5
1
赞了这篇沸点
赞了这篇沸点
赞了这篇沸点
曾经一个国家有一种刑罚叫nana（就是用一根棍子捅到屁股里再拔出来），有一次抓捕了三个犯人，国王问第一个犯人，你选择nana还是选择死？第一个犯人想nana就nana吧，总比死强，便回答：我选择nana。国王下令：拖下去nana一百下。过一会第一个犯人被带回来痛苦不堪地对另外两人说，千万别选nana，真的生不如死。第二个犯人心想不能死，他都能挺过来我也能挺过来，答到：我也选择nana。国王下令：拖出去nana二百下！第二个犯人被带回来更是痛苦不堪地告诉第三个人，千万别选nana，真的生不如死。第三个犯人一看这也太痛苦了，我还是选择死吧，喊到：我选择死！国王下令：拖出去，nana死他！！
展开
6
7
02年 年前外企被裁后找了个外包 现在感觉很痛苦每天打卡上班 没有自由 之前在外企没什么压力 很放松 现在外包做的很累 手里有小6位数存款 老家有房 想回老家考公了 jym有没有建议 感觉程序员太累了
56
2
![[抓狂]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_18.b93331d.png)
![[皱眉]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_71.e8c2090.png)
![[奋斗]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_29.2801857.png)
![[灵光一现]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_25.51e6984.png)