安利下自己的项目 求star呀
本项目基于Lavis实现一个干净、灵活的Trainer,在任务、模型、数据集、scheduler上都具备可拓展性,同时相比huggingface Trainer,更加干净、去冗余!
该仓库里还有:
多模态大模型实战MiniGPT4Qwen:3090+2小时+通义千问=个人版双语多模态大模型
本项目使用Qwen-Chat作为LLM,用MiniGPT4的对齐方式,更加高效地训练了一个MLLM,名为 Minigpt4Qwen。仅需1张3090、18.8k数据,3M可训练参数和可训练数个小时即可
现在已经开放了数据集、模型checkpoint、命令行demo、gradio的WebUI demo,并支持了LoRA微调功能。
github链接:
github.com
trainer直接跳转:
github.com
本项目基于Lavis实现一个干净、灵活的Trainer,在任务、模型、数据集、scheduler上都具备可拓展性,同时相比huggingface Trainer,更加干净、去冗余!
该仓库里还有:
多模态大模型实战MiniGPT4Qwen:3090+2小时+通义千问=个人版双语多模态大模型
本项目使用Qwen-Chat作为LLM,用MiniGPT4的对齐方式,更加高效地训练了一个MLLM,名为 Minigpt4Qwen。仅需1张3090、18.8k数据,3M可训练参数和可训练数个小时即可
现在已经开放了数据集、模型checkpoint、命令行demo、gradio的WebUI demo,并支持了LoRA微调功能。
github链接:
trainer直接跳转:
展开
评论
2