书生大模型实战营第四期进阶岛-InternVL多模态模型部署微调实践
网页应用部署体验
可以看出没有微调之前,模型是会识别错误(大盘鸡识别为)
XTuner微调实践
复制配置文件
cp /root/InternVL2-Tutorial/xtuner_config/internvl_v2_internlm2_2b_lora_finetune_food.py /root/xtuner/xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_lora_finetune_food.py
分析一下配置文件的构造 Part1 Settings
LoRA相关参数
r: 低秩矩阵的秩,决定了低秩矩阵的维度。lora_alpha缩放因子,用于调整低秩矩阵的权重。lora_dropoutdropout 概率,以防止过拟合。
输入微调指令,接下来唯一需要做的就是等待。
与AI美食家玩耍
回复正确,成功把大盘鸡识别出来。