书生大模型实战营第四期进阶岛-InternVL多模态模型部署微调实践

168 阅读1分钟

书生大模型实战营第四期进阶岛-InternVL多模态模型部署微调实践

参考文档:github.com/InternLM/Tu…

网页应用部署体验

image.png 可以看出没有微调之前,模型是会识别错误(大盘鸡识别为)

image.png

XTuner微调实践

复制配置文件

cp /root/InternVL2-Tutorial/xtuner_config/internvl_v2_internlm2_2b_lora_finetune_food.py /root/xtuner/xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_lora_finetune_food.py

分析一下配置文件的构造 Part1 Settings

image.png

image.png LoRA相关参数

image.png

  • r: 低秩矩阵的秩,决定了低秩矩阵的维度。
  • lora_alpha 缩放因子,用于调整低秩矩阵的权重。
  • lora_dropout dropout 概率,以防止过拟合。

输入微调指令,接下来唯一需要做的就是等待。

与AI美食家玩耍

回复正确,成功把大盘鸡识别出来。 image.png