【compshare】(3):使用UCloud(优刻得)的compshare算力平台,新增加SD-webui和大模型镜像,可以快速启动,非常方便,部署特别简单

252 阅读1分钟

关于UCloud(优刻得)旗下的compshare算力共享平台

www.ucloud.cn/ UCloud(优刻得)是中国知名的中立云计算服务商,科创板上市(股票代码:688158),中国云计算第一股,专注于提供可靠的企业级云服务,包括云服务器、云主机、云数据库、混合云、CDN、人工智能等服务。

compshare算力共享平台: 专注于提供高性价比算力资源,海量GPU,一键部署,即算即用,让AI训练、深度学习、科研计算效率翻倍。

console.compshare.cn/light-gpu/p…

启动SD-webui 镜像

img

然后登陆进入,使用ubuntu 帐号:

ssh ubuntu@xxx.xxx.xxx.xxx


温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,stable-diffusion-webui。
stable-diffusion-webui启动方式:
cd /home/ubuntu/stable-diffusion-webui
python launch.py --xformers --listen
启动好之后,通过浏览器访问: http://ip:7860即可,注意ip需要替换为云主机的外网ip,
如果无法访问请在控制台检查安全规则是否放行上述端口。

http://xxx.xxx.xxx.xxx:7860

img

还可以启动Llama3-Chinese大模型

img

发现启动端口不能访问,可以使用 8888 端口:


温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,Llama3-8B-Instruct-Chinese。
Llama3-8B-Instruct-Chinese启动方式:
cd /home/ubuntu/llama3-Chinese-chat
conda activate llama3-chinese

streamlit run deploy/web_streamlit_for_instruct.py model/llama-3-8b-Instruct-chinese --theme.base="light"  --server.port 8888


启动好之后,通过浏览器访问: http://ip:8888

效果还是不错的:

img

可以直接通过webui 进行模型的访问,测试,也带打字效果。

总结

新的镜像不错,简化了部署使用,更加的方便了。可以很快的搭建SD和大模型的平台了。