【书生大模型实战营】8G 显存玩转书生大模型 Demo笔记

63 阅读1分钟

按照教程配好环境,创个demo文件夹,创个cli_demo.py文件。

--复习:mkdir创个文件夹,-p保证root要是不存在就创个root文件夹。touch创个文件 image.png

复制上py文件后

image.png

启动!

image.png

启动出问题,python找不到,按网上说的,先查你有没有python

在服务器环境,使用python命令时提示:-bash: python: command not found

查看服务器python版本,一般是在/usr/bin目录下,在终端输入命令如下:
find /usr/bin -iname 'python*'
得到输出:(可能不是3.10,是你自己的版本)
/usr/bin/python3.10
/usr/bin/python3

原因:

python正常安装,没有配置软链接。

解决方法

根据python版本建立软链接,命令如下:(如python3.10,根据版本信息换成自己的)

ln -s /usr/bin/python3.10 /usr/bin/python

对话成功

image.png

输入exit退出。

启动streamlit

streamlit这玩意就是弄个前端界面,跟gradio一样

image.png

本地powershell输入命令,并输入密码

image.png

image.png

后面两个也是差不多,按照教程输入命令就行,但powershell的地址那要注意一下和之前的不一样了。

image.png