如何使用LangChain与IBM watsonx.ai交互：详细指南

用户850429986511
34 阅读2分钟

引言

IBM watsonx.ai是一个强大的AI平台，支持各种AI功能。WatsonxEmbeddings是一个用于与IBM watsonx.ai模型交互的封装器，它使得在使用LangChain与这些模型通信时更加便捷。本篇文章将探讨如何设置和使用LangChain与watsonx.ai进行交互，并提供实用的代码示例和常见问题解答。

主要内容

设置

要开始使用WatsonxEmbeddings，首先需要安装langchain-ibm Python包。可以使用以下命令进行安装：

!pip install -qU langchain-ibm

在使用WatsonxEmbeddings之前，还需要设置IBM Cloud的WML凭证。可以通过设置环境变量来实现：

import os
from getpass import getpass

# 提供IBM Cloud用户API密钥
watsonx_api_key = getpass()
os.environ["WATSONX_APIKEY"] = watsonx_api_key

# 设置其他访问凭证
os.environ["WATSONX_URL"] = "your service instance url"
os.environ["WATSONX_TOKEN"] = "your token for accessing the CPD cluster"
os.environ["WATSONX_PASSWORD"] = "your password for accessing the CPD cluster"
os.environ["WATSONX_USERNAME"] = "your username for accessing the CPD cluster"
os.environ["WATSONX_INSTANCE_ID"] = "your instance_id for accessing the CPD cluster"

加载模型

可以使用不同的模型参数来调整不同模型：

from ibm_watsonx_ai.metanames import EmbedTextParamsMetaNames

embed_params = {
    EmbedTextParamsMetaNames.TRUNCATE_INPUT_TOKENS: 3,
    EmbedTextParamsMetaNames.RETURN_OPTIONS: {"input_text": True},
}

初始化WatsonxEmbeddings类时需要添加project_id或space_id：

from langchain_ibm import WatsonxEmbeddings

watsonx_embedding = WatsonxEmbeddings(
    model_id="ibm/slate-125m-english-rtrvr",
    url="https://us-south.ml.cloud.ibm.com", # 使用API代理服务提高访问稳定性
    project_id="YOUR_PROJECT_ID",
    params=embed_params,
)

嵌入查询与文档

以下是如何嵌入查询和文档的示例代码：

# 嵌入查询
text = "This is a test document."
query_result = watsonx_embedding.embed_query(text)
print(query_result[:5])

# 嵌入文档
texts = ["This is a content of the document", "This is another document"]
doc_result = watsonx_embedding.embed_documents(texts)
print(doc_result[0][:5])

常见问题和解决方案

  1. 网络访问问题：某些地区可能会遇到API访问不稳定的问题。建议使用API代理服务来提高访问的稳定性。

  2. 凭证问题：确保所有必需的环境变量都已正确设置，特别是APIKey和project_id等重要参数。

  3. 模型参数调整：不同的模型可能需要调整不同的参数，请参阅相关文档以获取更多信息。

总结和进一步学习资源

本文详细介绍了如何使用LangChain与IBM watsonx.ai进行通信。如果感兴趣，可以查阅以下资源以深入了解：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝