分类
非对话 (llms text)
对话 (chat) 推荐
嵌入 (embedding)(放到最后rag章节讲解)
位置
api-key
base_url
mmodel-name
硬编码
环境变量
配置文件
api调用
langchain 提供的 api (推荐)
openai
其他平台
摘要生成、翻译、代码生成、单词问答。或者,对接不支持消息结构的旧模型(本地部署模型)。
不支持多轮对话上下文。每次调用独立处理输入,无法自动关联历史对话。(需要手动拼接历史文本)。
局限:无法处理角色分工或复杂对话逻辑。
eg:
代码
非对话模型
对话模型
嵌入 embedding
参数角度
用langchain写,openai是非对话ai,chatopenai是对话ai。
model.invoke(xxx):执行调用,将用户输入发送给模型。
.content:提取模型返回的实际文本内容。
硬编码
from langchain_openai import ChatOpenAI
# 调用非对话模型:
llms = OpenAI(...)
# 调用对话模型
chat_model = ChatOpenAI()
response = chat_model.invoke()
print(response.content)
参数
-
base_url: 大模型api服务的根地址 -
api_key:密钥 -
model/model_name: 大模型名称
from langchain_openai import ChatOpenAI
# 调用非对话模型:
llms = OpenAI(...)
# 调用对话模型
chat_model = ChatOpenAI(
# 必须要设置的3个参数
model_name="",
base_url="",
api_key="",
)
response = chat_model.invoke()
print(response.content)
模型调用推荐平台:closeai
openai在国内访问充值不方便,可以用closeai,地址 www.closeai-sia.com
非对话模型
用环境变量
用配置文件的方式
用.env方式:
其他参数
不同平台api调用大模型
closeai
非对话模型
调用对话模型
百度千帆
阿里云百炼
dashscope
智谱的glm
openai
硅基流动
没有最好的大模型,只有最适合的大模型