在本地部署LangChain教学 | 豆包MarsCode AI 刷题

288 阅读2分钟

、# 前言 在青训营学习AI方向的时候,AI练中学确实非常的方便,它帮我们把各种环境都配置好了。为了巩固自己部署代码的能力,所以打算在练中学跑一遍,再去本地跑一遍。所以有了这个教程。在本地,我们就需要自己去像在Pycharm里自己下载所需要的外置包,这时候就会出现各种错误,例如一些包的版本不对,只有特定版本才能很好的运行,你就会发现还是需要自己会部署到本地这个技能非常重要啦

前面是正常的安装步骤,后面是博主遇到的一些问题汇总。

使用工具

  • PyCharm

安装步骤

首先安装LangChain包:

pip install langchain

安装LangChain的大语言模型库(LLM):

pip install langchain[llms]

装openai附属包

pip install openai
pip install langchain-openai

为了api的安全,我把api单独放在了一个文件里,用一个开源包dotenv引用了出来,这个包还挺好用的,他就相当于给设置了一个全局的环境变量,然后直接用一个load_dotenv()就可以引用啦。

pip install dotenv

细心的朋友会发现,你在掘金小册上看到的代码和AI练中学上看到的代码是不一样的,这大概率是因为LangChain更新迭代有点太快了,所以小册上的代码有点更不上了,这里我用的是AI练中学的方法,也就是使用from langchain_openai import ChatOpenAI,这个包,而掘金小册里用的是llm = OpenAI(model_name="gpt-3.5-turbo-instruct",max_tokens=200)这种方式来调用大模型

import os
from langchain_openai import ChatOpenAI
from dotenv import load_dotenv
load_dotenv()
llm = ChatOpenAI(model=os.environ.get("LLM_MODELEND"))
text = llm.invoke("请给我写一句情人节红玫瑰的中文宣传语")
print(text)

image.png

.env文件 image.png

遇到的问题

GCC版本过低

这个问题困扰了我挺久的,我不知道为什么它需要用到GCC,不过好在更新了之后,确实是没有问题了。

我们可以先使用gcc --version,检查一下自己电脑里的GCC版本,安装LangChain所需的GCC版本是8.4

gcc -version

497298db43331c3c83420d554f45c11.png

如何更新:

下载mingw :Releases · niXman/mingw-builds-binaries

这里根据自己的系统选择,X86就是Windows系统的64位,一般就选倒数第二个就行了。

8e908f92f8be5d3b62d4368b84450b2.png

打开安装时这个界面,接下来遇到其他的选项就可以一路next,直到遇到下面选系统多少位的时候记得选择自己电脑相对应的位数

f31eccb44f9c9bc8a56978d3b2158da.png

注意选择自己系统的位数,现在默认一般电脑都是64位,不过也有人在用32位的电脑

49d48cf011840a9bca1049eb7719862.png

80e43e4ca13a9cf7b67db0483c28399.png