Tinero

我认为 LangChain 框架主要分为这几个部分: 对模型 I/O 的封装 数据连接封装 对话历史管理 架构封装（针对 Chain 和 Agent） 一、对模型 I/O ...

搭建多机模型训练环境，使用 LLaMA Factory 工具进行全量微调，为了后续能够在混搭场景下，进行长时间训练提供基础...

在使用 deepspeed 进行多机训练的时候，会用到 pdsh。若使用 apt/yum 方式去安装 pdsh，可能因为环境不适配都运行不起来，所以直接编译安装...

实现在物理机之间，以及容器之间，如何配置 SSH 免密登录，为之后，比如在进行多机训练时，搭建基础环境...

了解 Transformer 中的注意力机制，通过流程图和代码举例，认识 Attention 的结构，然后再去了解其具体细节...

一篇关于 Transformer 中位置编码的学习笔记，介绍了为什么要有位置编码，以及对应的位置编码技术...