语言

用 transformers 库写模型时发现个很离谱的 bug。离谱不在于 bug 本身，而是 transformers 本身已经意识到这个 bug，但因为 “速度更重要” 而搁置不改了。

TRL 库的 SFTTrainer 把训练过程封装得太彻底了。想尝试不使用 SFTTrainer，而是分步实现各个步骤来完成语言模型的有监督微调。

为了让 Transformer 模型获知输入序列的位置关系，需要想办法把位置信息嵌入到序列中。旋转位置编码 RoPE 是目前最为流行的位置编码方案。