安装 python环境
使用pyenv安装管理 python python具体安装使用方法参考,以下是 mac 上安装切换到python3.10.12
#安装pyenv
brew install pyenv
#安装
pyenv install 3.10.12
#切换环境
pyenv global 3.10.12
安装 API 服务
使用FastAPI实现接口服务。
FastAPI 是一个现代、快速(高性能)的Web框架,用于构建APIs与基于Python 3.6及以上版本的异步服务器网关接口(ASGI)。它是由Uvicorn提供支持,Uvicorn是一个ASGI服务器,运行FastAPI应用。
# 安装fastapi
pip install fastapi
# 安装ASGI服务器Uvicorn
pip install "uvicorn[standard]"
# 启动服务 uvicorn 入口文件名:实例名 --reload(代码发生变化时自动重新加载应用)
uvicorn main:app --reload
# 在服务器上启动服务
uvicorn main:app --reload --host 172.xx.xxx.xxx --port 8001
安装 langchain
安装基础包
langchain是一个集成框架,除了封装大模型相关,还可以与很多其他项目对接
#安装 langchainba
pip install langchain
#三方集成软件包 安装langchain会自动安装,但也可以单独使用
pip install langchain-community
#核心包 安装langchain会自动安装,但也可以单独使用
pip install langchain-core
三方库
非必须,按需选择
# 安装openai库
pip install openai
# tiktoken 是OpenAI开源的一个快速分词工具
pip install tiktoken
# faiss 向量库 gpu 版
pip install faiss-gpu
# faiss 向量库 cpu 版
pip install faiss-cpu
# chromadb 向量库
pip install chromadb
# 数据验证和模型定义库
pip install pydantic==1.10.13
安装dotenv
使用dotenv存储密钥和代理地址
dotenv可以将敏感信息(如数据库密码、API 密钥等)从代码中移除,存储在环境变量中,这样可以更好地控制这些信息的访问和使用。此外,使用环境变量还可以方便地在不同环境之间切换,例如在开发、测试和生产环境中使用不同的配置。
#安装 dotenv 库
pip install python-dotenv
项目中使用
from dotenv import load_dotenv
import os
# 加载当前目录下的 .env 文件
load_dotenv()
# 现在你可以使用 os.getenv 来读取环境变量
foo = os.getenv('FOO')
biz = os.getenv('BIZ')
安装 jupyterlab
使用 jupyterlab 方便简单功能的验证和调试
#安装jupyterlab
pip install jupyterlab
#启动jupyterlab,(可以下载插件后直接在编译器里使用,不启动这个)
jupyter-lab