lvzi

首先要知道glm是如何训练的 参考下面的博文，总之 glm就是用自回归空白填充作为训练目标 。通过完整的上下文预测masked的内容，masked内部的预测采用完整的上下文信息+masked中已经预测

bitandbytes 点击vscode按钮和直接执行不一样 点击vscode的运行按钮 在终端执行

使用方法： 通过给openai.proxy赋值设置代理，默认情况下是支持http/https代理，不支持socks代理。需要做额外修改，根据不同的需求，使用socks代理所需要的依赖和修改是不同的。

1. 路径问题 想要调试某个脚本的时候经常遇到这个报错 attempted relative import with no known parent package 原因： 脚本(script)不能用

现在有这样一个一个拓扑结构 本地机器local_A,服务器server_A，服务器server_B，服务器server_A可以直连server_B， vscode中的配置如下： 重要 前面的连接方法比

``` from pydantic import BaseModel class BaseFather(BaseModel): name: str age: int class BaseSon(Bas

pycharm终于支持本地无代码的远程开发了。 原先的远程需要同步本地与远程的代码和环境，实在是呆到不行。 配置方法： pycharm Remote Development ssh 版本 2023.2

fastchat后端部署实现了非常多的功能 分发/负载 可以实现分发到不同的服务器 其他 存在问题 vicuna 33b stream解码有问题。

训练过程中发现问题，内存不够 Is memory-efficient FSDP initialization intended to be possible with torch.device('me