提升图数据库查询的Prompt技巧:深入挖掘Graph-RAG的潜力

38 阅读3分钟

引言

随着人工智能技术的进步,利用自然语言生成数据库查询成为可能。Graph-RAG(Graph Retrieval-Augmented Generation)是一种将自然语言理解与图数据库结合的强大技术。然而,要生成有效的图数据库查询,尤其是在使用Neo4j这样的图数据库时,prompt设计显得尤为重要。本篇文章将探讨如何优化prompt,以提高生成的Cypher查询的相关性和准确性。

主要内容

环境设置

首先,确保安装必要的软件包,并设置环境变量。建议使用OpenAI模型,但可以根据需求更换其他模型供应商。

%pip install --upgrade --quiet langchain langchain-community langchain-openai neo4j

import getpass
import os

os.environ["OPENAI_API_KEY"] = getpass.getpass()

os.environ["NEO4J_URI"] = "bolt://localhost:7687"
os.environ["NEO4J_USERNAME"] = "neo4j"
os.environ["NEO4J_PASSWORD"] = "password"

定义和填充Neo4j数据库

我们将Neo4j数据库填充一些关于电影和演员的示例数据。

from langchain_community.graphs import Neo4jGraph

graph = Neo4jGraph()

movies_query = """
LOAD CSV WITH HEADERS FROM 
'https://raw.githubusercontent.com/tomasonjo/blog-datasets/main/movies/movies_small.csv'
AS row
MERGE (m:Movie {id:row.movieId})
SET m.released = date(row.released),
    m.title = row.title,
    m.imdbRating = toFloat(row.imdbRating)
FOREACH (director in split(row.director, '|') | 
    MERGE (p:Person {name:trim(director)})
    MERGE (p)-[:DIRECTED]->(m))
FOREACH (actor in split(row.actors, '|') | 
    MERGE (p:Person {name:trim(actor)})
    MERGE (p)-[:ACTED_IN]->(m))
FOREACH (genre in split(row.genres, '|') | 
    MERGE (g:Genre {name:trim(genre)})
    MERGE (m)-[:IN_GENRE]->(g))
"""

graph.query(movies_query)

提示语设计

在生成Cypher语句时,可能需要关注图schema的特定子集。为了避免给LLM传递不必要的信息,我们可以使用exclude参数来排除不需要的节点类型。

from langchain.chains import GraphCypherQAChain
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)  # 使用API代理服务提高访问稳定性
chain = GraphCypherQAChain.from_llm(
    graph=graph, llm=llm, exclude_types=["Genre"], verbose=True
)

代码示例

以下代码展示了如何创建一个few-shot prompt,其中包含自然语言问题及其对应的Cypher查询的示例,这将有助于提升模型性能。

from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate

examples = [
    {
        "question": "How many artists are there?",
        "query": "MATCH (a:Person)-[:ACTED_IN]->(:Movie) RETURN count(DISTINCT a)",
    },
    # 更多示例...
]

example_prompt = PromptTemplate.from_template(
    "User input: {question}\nCypher query: {query}"
)
prompt = FewShotPromptTemplate(
    examples=examples[:5],
    example_prompt=example_prompt,
    prefix="You are a Neo4j expert. Given an input question, create a syntactically correct Cypher query to run.\n\nHere is the schema information\n{schema}.\n\nBelow are a number of examples of questions and their corresponding Cypher queries.",
    suffix="User input: {question}\nCypher query: ",
    input_variables=["question", "schema"],
)

常见问题和解决方案

网络访问限制

对于某些地区的开发者,可能会遇到访问OpenAI API的限制。在这种情况下,建议使用API代理服务来提高访问的稳定性。

提示信息过长

当示例过多时,可使用SemanticSimilarityExampleSelector选择与输入最相关的示例,保持prompt的信息量适中。

from langchain_community.vectorstores import Neo4jVector
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_openai import OpenAIEmbeddings

example_selector = SemanticSimilarityExampleSelector.from_examples(
    examples,
    OpenAIEmbeddings(),
    Neo4jVector,
    k=5,
    input_keys=["question"],
)

总结和进一步学习资源

图数据库查询的生成不仅依赖于对语言模型的选择,prompt设计也至关重要。通过合理地设计prompt,利用few-shot学习和动态示例选择等技术,可以显著提高生成Cypher查询的质量。

参考资料

  1. Langchain文档
  2. Neo4j官方文档

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---