langchain - model i/o

85 阅读1分钟

image.png

分类

非对话 (llms text)

对话 (chat) 推荐

嵌入 (embedding)(放到最后rag章节讲解)


位置

api-key

base_url

mmodel-name

硬编码

环境变量

配置文件


api调用

langchain 提供的 api (推荐)

openai

其他平台


image.png

摘要生成、翻译、代码生成、单词问答。或者,对接不支持消息结构的旧模型(本地部署模型)。

不支持多轮对话上下文。每次调用独立处理输入,无法自动关联历史对话。(需要手动拼接历史文本)。

局限:无法处理角色分工或复杂对话逻辑。

eg:


代码

非对话模型

image.png

image.png

对话模型

image.png

image.png

image.png

image.png

image.png

image.png

嵌入 embedding

image.png

image.png

image.png


image.png

参数角度

用langchain写,openai是非对话ai,chatopenai是对话ai。

model.invoke(xxx):执行调用,将用户输入发送给模型。

.content:提取模型返回的实际文本内容。

硬编码

from langchain_openai import ChatOpenAI

# 调用非对话模型: 
llms = OpenAI(...)

# 调用对话模型
chat_model = ChatOpenAI()

response = chat_model.invoke()

print(response.content)

参数

  • base_url: 大模型api服务的根地址

  • api_key:密钥

  • model/model_name: 大模型名称


from langchain_openai import ChatOpenAI

# 调用非对话模型: 
llms = OpenAI(...)

# 调用对话模型
chat_model = ChatOpenAI(
  # 必须要设置的3个参数
  model_name="",
  base_url="",
  api_key="",
)

response = chat_model.invoke()

print(response.content)

模型调用推荐平台:closeai

openai在国内访问充值不方便,可以用closeai,地址 www.closeai-sia.com

image.png

image.png

非对话模型

image.png

用环境变量

image.png

用配置文件的方式

.env方式:

image.png

image.png

image.png

image.png

其他参数

image.png

不同平台api调用大模型

closeai

非对话模型

image.png

image.png

调用对话模型

image.png

百度千帆

image.png

image.png

阿里云百炼

image.png

image.png

dashscope

image.png

智谱的glm

openai

image.png

image.png

硅基流动

image.png


没有最好的大模型,只有最适合的大模型