卡荒时代LLM训练

78 阅读1分钟

无卡生活的解决路径

在大模型时代,即便是几B的模型在全训练的过程也是非常消耗显存的,对于禁令实施的大陆,这是一件痛苦的事情。PEFT技术的思路虽然解决了一定的问题,但是仍然存在着许多不足,比如解释性不强和泛化能力差的问题。

最近朋友说了一个的GPU平台(h800惊喜价格),对于最近在训练3B模型的我,速度的把代码赶紧迁移过来,平均一天节省好几百。价格方面真的爆杀,而且H800部署的地方其实很少。

简单使用之后有体验如下:

功能还没有完全完善但是绝对够用

网速管饱干啥都行

权限正常可以当作基本的裸金属使用

推荐大家可以搜索尝试,现在上线就给米!!!

#潞晨云#潞晨云#潞晨云#潞晨云