SpringBoot+Vue3打造企业级一体化SaaS系统

166 阅读1分钟

download:SpringBoot+Vue3打造企业级一体化SaaS系统

部署模型的根本流程(小白向)

2023年4月16日更新:

1.已将启动所需一切的权重和脚本文件放在data中并且更新成了最新模型,fork后只需解压到同一个文件夹并将其设置成模型启动途径即可(为了减少飞桨保管文件的时间,运用挂载数据效率高)

2.曾经更新requirements文件,处理了环境抵触的问题,不需求再单独运用export语句

3.曾经更新了cli_demo.py和web_demo.py,启动步骤:(1)解压data文件夹中的chatglm-6b.zip (2)装置所需依赖,已装置能够跳过 (3)在命令行运用脚本启动

2.1 从github上下载所需求启动模型的文件

模型启动对应的文件在github上的ChatGLM-6B曾经给出,因而需求从github上下载文件夹(文件中下载)

%cd /home/aistudio/work/
!git clone https://github.com/THUDM/ChatGLM-6B.git

当work/途径下有ChatGLM-6B文件就阐明下载胜利了

还需求下载模型文件,可从huggingface.co下载,由于模型文件太大,下载太慢,可先下小文件,之后用清华源下载大模型

模型文件曾经更新到最新版,运用以下命令可在data中生成chatglm6b启动所需的文件

cd /home/aistudio/data/data203501
unzip chtglm-6b.zip
cd

In [ ]

# 将启动所需文件解压,后面两个Cell不用运转
%cd /home/aistudio/data/data203501
!unzip chatglm-6b.zip
%cd

In [ ]

# 下载github的启动模型的代码
%cd /home/aistudio/work/
!git clone https://github.com/THUDM/ChatGLM-6B.git

In [ ]

# 从Hugging Face Hub下载模型小文件,大文件运用清华源下载
%cd /home/aistudio/work/ChatGLM-6B/
GIT_LFS_SKIP_SMUDGE=1
!git lfs install
!git clone https://huggingface.co/THUDM/chatglm-6b