前言：
没有绝对的天才，只有持续不断的付出。对于我们每一个平凡人来说，改变命运只能依靠努力+幸运，但如果你不够幸运，那就只能拉高努力的占比。
2025年3月，我有幸成为了字节跳动的一名大模型算法工程师，正如标题所说，我从Java程序员到AI大模型，10000小时后，走进字节跳动拿下了offer。相信同行都清楚，进大厂有多难，运气之余，也离不开我自己的脚踏实地，所幸每踏出的一步都留下了厚厚的脚印。
岗位： 字节大模型算法岗
面试题总结
1.自我介绍
2.llama2中使用的注意力机制是什么? 手写实现下分组注意力。
3.了解langchain吗? 讲讲其结构。
4.对位置编码熟悉吗? 讲讲几种位置编码的异同
5.RLHF的具体工程是什么? 包含了几何模型?
6.分别讲讲 encoder-only, decoder-only, encoder-decoder 几种大模型的代表作。
7.具体讲讲 p-tuning, lora 等微调方法, 并指出他们与传统fine-tuning微调有何不同。
8.显存不够一般怎么解决的?
9.几种主流大模型的 loss 了解过吗? 有哪些异同?
10.deepspeed 用过吗?
11.领域模型Continue PreTrain 数据选取?
12.领域数据训练后, 通用能力往往会有所下降, 如何缓解模型遗忘通用能力?
13.在指令微调中，如何设定、选择和优化不同的超参数，以及它们对模型效果的具体影响？
14.如何在指令微调中选择最佳指令策略，以及该策略对模型效果的影响？
15.llama、glm、bloom等现有大型模型的数据处理、训练细节以及模型架构的优化点，包括但不限于注意力机制、归一化和嵌入层
16.解决显存不足的方法有哪些？
17.请解释P-tuning的工作原理，并说明其与传统微调方法的不同之处。
其他：（HR和Leader都问了一些开发性问题）
你认为遇到过最大的挫折是什么？怎么解决的？
职业规划
对字节跳动的认识
你认为字节是一家年轻的公司吗？年轻是核心竞争力吗？
你有没有崇拜的人
不考虑公司地理因素，最想要去哪个城市工作？
我为什么想要去字节跳动？（字节跳动的优势）
①福利待遇
我不是hr，也不是给字节打广告，这里真的要提一下字节跳动的福利待遇绝对是一线厂子里数一数二的。加上我是外包出身，这种待遇给我造成的落差感就更明显，让我觉得能够进字节跳动工作算是我最大的幸运了。
至于福利待遇，这里随便提及几点：
1.弹性打卡
2.房补（额度算很高了，算很人性化）
3.免费的三餐、下午茶（吃胖了）
4.免费健身房
5.顶配16寸MacBook
6.各种节日礼包
②巨大的知识库
字节跳动对于我来说，算是一个巨大的知识库，之所以这么说，从面试的流程及细节，到后来我入职之后工作上面的安排，都让我有不一样的触动。从这几方面，我们都能够感受到公司对于员工的职业规划非常重视，你的主管和导师都会主动去找你沟通这方面的，这对比我之前的外包，是截然不同的地方。而在这个交流过程中，我获得到的，不是一星半点。
最让我佩服的是，字节有统一的入口可以导航到海量的指南和知识沉淀，甚至是其他各个产品线整理的技术和业务文档等等。
③我看到了认同
来到字节，我看到了认同，收获了归属感。字节跳动虽然年轻，但在做事上有共同一致的目标，这里的人讲“字节范儿”，它不是条条框框的束缚，它是一种精神食粮，实质是一种价值认同。恰好，拥有同一种价值认同的人走到了一起。
④虽辛苦，但不感觉累
字节跳动是一家非常年轻化的公司，对于一线的互联网公司来说，996是常态，字节跳动也脱离不开“加班”二字。但是字节给我最大不同的感受是，忙碌且生机勃勃。在字节工作一段时间了，我也算是跟上了这里的节奏，虽然辛苦，但我却一点也不感觉累，因为在充实的工作环境中，我是有所收获的，在公司野蛮生长的同时，我个人也得到了快速的成长。
另外，别以为一线大厂的“打工人”只会死工作，字节人最大的特点就是年轻，他们同样会玩，每个人都有自己的爱好，骑行、狼人杀、健身、摄影、瑜伽等等，这与我之前对大厂人的印象显然不同，我也一点一点在慢慢被影响着。
⑤反思：关注工作效率
以前觉得自己的工作效率和时间管理做得还不错，至少能拿出时间做一点大家想做却没有做的事情，但现在才发现这也许只是错觉，你总做容易的事情，当然不会感觉到时间的压力，即便是项目进度比较紧的时候，加加班，搞搞996似乎也就那么回事。我们通常都会愿意延长时间，而不是考虑如何提高效率，在同样的时间内完成更多的工作，当然也有很多不言自明的客观原因。
来字节后，我才从身边同事的工作细节中看到了什么才是“效率”。
资料下载方式
