一、本地部署
打开PyCharm,在终端使用pip安装包
pip install langchain //安装langchain:一种用于开发基于语言模型的应用的框架
pip install openai //安装OpenAI
pip install langchain-openai //使LangChain能够使用OpenAI模型
二、使用火山方舟 v3 API
其实一开始我想的是直接去弄OpenAI的,结果发现它需要国外电话,所以我就没弄了>_<
- 火山引擎网站:console.volcengine.com/
- 具体配置文档:www.volcengine.com/docs/82379/…
1、API Key
注意API Key
2、接入口ID
注意接入点名称的下面接入点ID
3、访问域名
https://<ARK_DOMAIN>/api/v3其中<ARK_DOMAIN>与上图红框有关(上图应取ark.cn-beijing.volces.com)
三、具体实现
四、遇到的问题
1、问题一
原因:之前下载了Anaconda使得它的Python3.8.3覆盖了Pycharm的python3.12
解决方法:修改环境变量Path的位置,将Pycharm的python3.12放在前面
最后再查看
path环境变量的优先级问题:系统环境变量貌似先于用户环境变量(因为我一开始是把Python312的位置放在了用户环境变量的第一个,Python38的位置放在系统环境变量中);位置越靠上(前)的优先级越高。优先级高的覆盖优先级低的。
2、问题二
note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed building wheel for volcengine-python-sdk Failed to build volcengine-python-sdk ERROR: ERROR: Failed to build installable wheels for some pyproject.toml based projects (volcengine-python-sdk)
原因:这个错误通常是在构建volcengine-python-sdk时,某个文件或目录由于权限问题或者路径过长导致无法构建。
解决方法:将LongPathsEnabled的数值改为1
解决:
五、学到的一些基础知识
这两大模型是OpenAI的重要模型,不过Text Model好像现在已经过时了OpenAI还提供Image、Audio和其它类型的模型。所以重点记录一下Chat Model。
CHat Model区别于Text Model最显著的特点是消息和角色(role)。
其中每个消息都会有对应的角色和消息的内容。角色可以是system、user、assistant。比如:
response = client.chat.completions.create( model="gpt-4", messages=[ {"role": "system", "content": "You are a creative AI."}, {"role": "user", "content": "请给我的花店起个名"}, ], temperature=0.8, max_tokens=60 )
其中messages列表中的第一个消息是系统(system)消息,其主要用于设定对话的背景和上下文。设定与用户聊天的对象的身份。比如上面的代码就设定其为一个具有创造力的AI。
第二个消息是用户(user)消息,是从用户或人类角色发出的。后面的content就是用户向系统发起的提问。
还有一种角色是assistant。助手消息是模型的回复。