本机体验GPT模型之microGPT

533 阅读1分钟

老规矩,先上本机配置:

  • Fedora36的x86_64台式机
  • i5-7500 CPU @ 3.40GHz 4核
  • 16G 内存
  • Intel集成显卡 630

预先设置python运行环境

熟悉这一套的人直接略过。

与C/C++写成的gpt4all不同,micro-gpt是典型的用python写成的项目。运行各种python项目需要设置好python的环境,以免与本机上的其它python工程冲突,比如本机是python2却想运行python3.8的工程。设置python虚拟运行环境的方法比较多,现在流行的方式是使用Miniconda3。根据自己机器的操作系统和架构,选择一款下载。Miniconda3-py37表示安装的是python3.7的Miniconda3。

为工程创建单独的环境

先下载仓库代码,依然是用github镜像:

git clone https://ghproxy.com/https://github.com/muellerberndt/micro-gpt.git microGPT
cd microGPT

其次是创建一个新的python运行环境,其实就是运行环境隔离的思想,只是换了一种方式的Docker。

conda create -n microGPT python=3.10
conda activate microGPT

再次是安装工程的信赖包,因为各种网络原因,统一用清华的python镜像源:

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
cp .env_example .env

这时候用的pip已经是python3.10对应的pip了,不再是本机上的python和pip,这正是Miniconda3这一坨所要达到的目的。

安装完成之后需要设置MEMORY_TYPE环境变量,直接用chromadb比较方便运行命令会自动下载并安装数据库,用psycopg2则需要另外安装信赖包,而且非常容易出问题,还不知道如何解决:

export MEMORY_TYPE=chromadb
python microgpt.py "Programmatically draw a beautiful car and save the drawing in a png image file"

原来这个工程仅是个调度空壳,最终还要调用OpenAI接口,上了大当。