LangChain之Pycharm平台本地部署 | 豆包MarsCode AI刷题

303 阅读2分钟

一、本地部署

打开PyCharm,在终端使用pip安装包

pip install langchain           //安装langchain:一种用于开发基于语言模型的应用的框架
pip install openai              //安装OpenAI
pip install langchain-openai    //使LangChain能够使用OpenAI模型

安装包.png

二、使用火山方舟 v3 API

其实一开始我想的是直接去弄OpenAI的,结果发现它需要国外电话,所以我就没弄了>_<

1、API Key

image.png 注意API Key

2、接入口ID

image.png 注意接入点名称的下面接入点ID

3、访问域名

image.png https://<ARK_DOMAIN>/api/v3其中<ARK_DOMAIN>与上图红框有关(上图应取ark.cn-beijing.volces.com)

三、具体实现

image.png

四、遇到的问题

1、问题一

终端与pycharm的版本不同.png 原因:之前下载了Anaconda使得它的Python3.8.3覆盖了Pycharm的python3.12

image.png 解决方法:修改环境变量Path的位置,将Pycharm的python3.12放在前面

image.png

最后再查看

image.png path环境变量的优先级问题:系统环境变量貌似先于用户环境变量(因为我一开始是把Python312的位置放在了用户环境变量的第一个,Python38的位置放在系统环境变量中);位置越靠上(前)的优先级越高。优先级高的覆盖优先级低的。

2、问题二

note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed building wheel for volcengine-python-sdk Failed to build volcengine-python-sdk ERROR: ERROR: Failed to build installable wheels for some pyproject.toml based projects (volcengine-python-sdk) 原因:这个错误通常是在构建volcengine-python-sdk时,某个文件或目录由于权限问题或者路径过长导致无法构建。 解决方法:将LongPathsEnabled的数值改为1 image.png 解决:

image.png

五、学到的一些基础知识

这两大模型是OpenAI的重要模型,不过Text Model好像现在已经过时了OpenAI还提供Image、Audio和其它类型的模型。所以重点记录一下Chat Model。 CHat Model区别于Text Model最显著的特点是消息和角色(role)。 其中每个消息都会有对应的角色和消息的内容。角色可以是system、user、assistant。比如:

response = client.chat.completions.create( model="gpt-4", messages=[ {"role": "system", "content": "You are a creative AI."}, {"role": "user", "content": "请给我的花店起个名"}, ], temperature=0.8, max_tokens=60 )

其中messages列表中的第一个消息是系统(system)消息,其主要用于设定对话的背景和上下文。设定与用户聊天的对象的身份。比如上面的代码就设定其为一个具有创造力的AI。

第二个消息是用户(user)消息,是从用户或人类角色发出的。后面的content就是用户向系统发起的提问。

还有一种角色是assistant。助手消息是模型的回复。

六、一些有意思的网站

huggingface.co/