
获得徽章 0
- 打个小广告:
个人开源项目:MPP-Qwen-Next: 通过Pipeline Parallel在3090/4090上可完成8B/14B的LLaVA-like training(sft时打开LLM) 新加入videochatgpt的数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
如果有帮助的话可以点个star,马上300了呜呜呜展开评论点赞 - 打个小广告:
个人开源项目:MPP-Qwen-Next: 通过Pipeline Parallel在3090/4090上可完成8B/14B的LLaVA-like training(sft时打开LLM) 新加入videochatgpt的数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
如果有帮助的话可以点个star,马上300了呜呜呜展开评论点赞 - 打个小广告:
个人开源项目:MPP-Qwen-Next: 通过Pipeline Parallel在3090/4090上可完成8B/14B的LLaVA-like training(sft时打开LLM) 新加入videochatgpt的数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
如果有帮助的话可以点个star,马上300了呜呜呜展开赞过评论1 - 个人开源项目:MPP-Qwen-Next: 加入llava的多轮对话sft数据以及videochatgpt的100k sft数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
展开评论点赞 - 个人开源项目:MPP-Qwen-Next: 加入llava的多轮对话sft数据以及videochatgpt的100k sft数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
展开评论点赞 - #大模型日报# 个人开源项目:MPP-Qwen-Next: 加入llava的多轮对话sft数据以及videochatgpt的100k sft数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
展开评论点赞 - 个人开源项目:MPP-Qwen-Next: 加入llava的多轮对话sft数据以及videochatgpt的100k sft数据,支持图像多轮对话,视频对话,并涌现出多图对话能力。已经开源了sft后的权重 欢迎关注
github链接:github.com
展开评论点赞 - 更新了下之前的MiniGPT4Qwen,Scale Up了语言模型,得到MiniGPT4Qwen-14B。
MiniGPT4Qwen14B对语言模型进行了Scale Up,采用Qwen-14B-Chat模型作为底座,以获得更好的对话体验。值得一提的是,为了能在3090上训练14B~15B的模型(不进行量化操作),MiniGPT4Qwen14B选择采用DeepSpeed的流水线并行(GPipe,Pipeline Parallel)技术。
代码库:github.com,已加入MiniGPT4Qwen-14B-Chat模型的双卡DeepSpeed流水线并行训练,后续的推理(命令行demo+ gradio WebUI demo),以及14B模型的checkpoint和train log(流水线并行14B模型的权重和日志)。如果有帮助,可以考虑star一下,马上200个了!有相关问题和建议也可以github上直接提issue,会比私戳我更快!
对应的掘金博客:展开赞过评论1 - 更新了下之前的MiniGPT4Qwen,Scale Up了语言模型,得到MiniGPT4Qwen-14B。
MiniGPT4Qwen14B对语言模型进行了Scale Up,采用Qwen-14B-Chat模型作为底座,以获得更好的对话体验。值得一提的是,为了能在3090上训练14B~15B的模型(不进行量化操作),MiniGPT4Qwen14B选择采用DeepSpeed的流水线并行(GPipe,Pipeline Parallel)技术。
代码库:github.com,已加入MiniGPT4Qwen-14B-Chat模型的双卡DeepSpeed流水线并行训练,后续的推理(命令行demo+ gradio WebUI demo),以及14B模型的checkpoint和train log(流水线并行14B模型的权重和日志)。如果有帮助,可以考虑star一下,马上200个了!有相关问题和建议也可以github上直接提issue,会比私戳我更快!
对应的掘金博客:展开评论点赞 - 更新了下之前的MiniGPT4Qwen,Scale Up了语言模型,得到MiniGPT4Qwen-14B。
MiniGPT4Qwen14B对语言模型进行了Scale Up,采用Qwen-14B-Chat模型作为底座,以获得更好的对话体验。值得一提的是,为了能在3090上训练14B~15B的模型(不进行量化操作),MiniGPT4Qwen14B选择采用DeepSpeed的流水线并行(GPipe,Pipeline Parallel)技术。
代码库:github.com,已加入MiniGPT4Qwen-14B-Chat模型的双卡DeepSpeed流水线并行训练,后续的推理(命令行demo+ gradio WebUI demo),以及14B模型的checkpoint和train log(流水线并行14B模型的权重和日志)。如果有帮助,可以考虑star一下,马上200个了!有相关问题和建议也可以github上直接提issue,会比私戳我更快!
对应的掘金博客:展开评论点赞