获得徽章 8
- 安利下自己的项目 求star呀
这次介绍大模型训练中最常用的两个技术：混合精度训练和梯度检查点，给出示例代码并以EVA ViT-G（0.99B参数）作为例子进行性能测试
该仓库里还有：
- 基于Lavis实现一个干净、灵活的Trainer，在任务、模型、数据集、scheduler上都具备可拓展性，同时相比huggingface Trainer，更加干净、去冗余！
- 多模态大模型实战MiniGPT4Qwen：3090+2小时+通义千问=个人版双语多模态大模型
本项目使用Qwen-Chat作为LLM，用MiniGPT4的对齐方式，更加高效地训练了一个MLLM，名为 Minigpt4Qwen。仅需1张3090、18.8k数据，3M可训练参数和可训练数个小时即可（现在已经开放了数据集、模型checkpoint、命令行demo、gradio的WebUI demo，并支持了LoRA微调功能。）
github仓库：
github.com
文章：展开15 - 【摸鱼办】提醒您：
今天是2023年9月23日周六
上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：9小时0分钟
距离周末(大周)还有：7天
🕹️距离周末(小周)还有：1天
💰距离发工资(5号)还有：12天
💰距离发工资(10号)还有：17天
💰距离发工资(11号)还有：18天
💰距离发工资(15号)还有：22天
💰距离发工资(20号)还有：27天
💰距离发工资(25号)还有：2天
💰距离中秋还有：6天
💰距离国庆还有：8天距离元旦还有：100天
🏮距离春节还有：140天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开416 - 【摸鱼办】提醒您：今天是2023年9月24日周日上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：8小时59分钟距离周末(大周)还有：6天
🕹️距离周末(小周)还有：7天
💰距离发工资(5号)还有：11天
💰距离发工资(10号)还有：16天
💰距离发工资(11号)还有：17天
💰距离发工资(15号)还有：21天
💰距离发工资(20号)还有：26天
💰距离发工资(25号)还有：1天
💰距离中秋还有：5天
💰距离国庆还有：7天距离元旦还有：99天
🏮距离春节还有：139天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开510 - 【摸鱼办】提醒您：今天是2023年9月25日周一上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：9小时0分钟距离周末(大周)还有：5天
🕹️距离周末(小周)还有：6天
💰距离发工资(5号)还有：10天
💰距离发工资(10号)还有：15天
💰距离发工资(11号)还有：16天
💰距离发工资(15号)还有：20天
💰距离发工资(20号)还有：25天
💰距离发工资(25号)还有：0天
💰距离中秋还有：4天
💰距离国庆还有：6天距离元旦还有：98天
🏮距离春节还有：138天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开112 - 【摸鱼办】提醒您：今天是2023年9月26日周二上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：9小时0分钟距离周末(大周)还有：4天
🕹️距离周末(小周)还有：5天
💰距离发工资(5号)还有：9天
💰距离发工资(10号)还有：14天
💰距离发工资(11号)还有：15天
💰距离发工资(15号)还有：19天
💰距离发工资(20号)还有：24天
💰距离发工资(25号)还有：29天
💰距离中秋还有：3天
💰距离国庆还有：5天距离元旦还有：97天
🏮距离春节还有：137天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开315 - 【摸鱼办】提醒您：今天是2023年9月27日周三上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：8小时59分钟距离周末(大周)还有：3天
🕹️距离周末(小周)还有：4天
💰距离发工资(5号)还有：8天
💰距离发工资(10号)还有：13天
💰距离发工资(11号)还有：14天
💰距离发工资(15号)还有：18天
💰距离发工资(20号)还有：23天
💰距离发工资(25号)还有：28天
💰距离中秋还有：2天
💰距离国庆还有：4天距离元旦还有：96天
🏮距离春节还有：136天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开118 - 【摸鱼办】提醒您：今天是2023年9月28日周四上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：9小时0分钟距离周末(大周)还有：2天
🕹️距离周末(小周)还有：3天
💰距离发工资(5号)还有：7天
💰距离发工资(10号)还有：12天
💰距离发工资(11号)还有：13天
💰距离发工资(15号)还有：17天
💰距离发工资(20号)还有：22天
💰距离发工资(25号)还有：27天
💰距离中秋还有：1天
💰距离国庆还有：3天距离元旦还有：95天
🏮距离春节还有：135天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开112 - 【摸鱼办】提醒您：今天是2023年9月29日周五上午好摸鱼人!
工作再累，一定不要忘记喝水哦！希望此刻看到消息的人可以和我一起来喝一杯水。及时排便洗手，记得关门。和我一起成为一天喝八杯水的人吧！
══════════
🚇距离下班还有：8小时59分钟距离周末(大周)还有：1天
🕹️距离周末(小周)还有：2天
💰距离发工资(5号)还有：6天
💰距离发工资(10号)还有：11天
💰距离发工资(11号)还有：12天
💰距离发工资(15号)还有：16天
💰距离发工资(20号)还有：21天
💰距离发工资(25号)还有：26天
💰距离中秋还有：0天
💰距离国庆还有：2天距离元旦还有：94天
🏮距离春节还有：134天
══════════
有事没事起身去茶水间，去厕所，去廊道走走别老在工位上坐着。上班是帮老板赚钱，摸鱼是赚老板的钱！最后，祝愿天下所有摸鱼人，都能愉快的渡过每一天展开39
github.com![[思考]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_15.f58c082.png)