在这篇文章中，我将记录我使用LangChain框架，结合“易速鲜花”本地知识库，搭建一个智能问答系统的实践过程。该系统能够从多个文档中自动检索信息，并根据用户提出的问题返回相关答案。在整个过程中，我不仅学习了如何使用LangChain的各种模块，还深入思考了如何优化系统的结构与性能，力求在高效性和可扩展性之间找到平衡。
环境准备与文档加载
构建问答系统的第一步是加载本地文档库。在这个项目中，我使用了“易速鲜花”项目提供的多种格式的文档，如PDF、Word和文本文件。LangChain框架中提供了多种文档加载器，分别对应不同的文件格式。通过这些加载器，我可以快速地将各种格式的文档转化为可以处理的文本数据。
在加载文档时，我考虑到文档格式的多样性，因此选择了PyPDFLoader、Docx2txtLoader和TextLoader来分别处理PDF、Word文档和纯文本文件。通过循环遍历存放文档的文件夹，加载所有文件并将其转化为一个统一的文档集合。以下是文档加载的代码：
from langchain_community.document_loaders import PyPDFLoader, Docx2txtLoader, TextLoader
base_dir = "./OneFlower" # 文档存放路径
documents = []
for file in os.listdir(base_dir):
file_path = os.path.join(base_dir, file)
if file.endswith(".pdf"):
loader = PyPDFLoader(file_path)
documents.extend(loader.load())
elif file.endswith(".docx"):
loader = Docx2txtLoader(file_path)
documents.extend(loader.load())
elif file.endswith(".txt"):
loader = TextLoader(file_path)
documents.extend(loader.load())
我也考虑过是否需要对加载的数据做进一步的清洗与格式化，以提高数据的整洁性和一致性。
文本分割与嵌入生成
在处理和分割文本时，我们需要注意的是，文档的内容往往较长，不适合直接进行向量化处理，尤其是在面对大规模数据时，直接使用整个文档会导致内存消耗过大，甚至会影响计算性能。因此，文本分割成较小的块（chunks）是一个常见且有效的解决方案。我使用了RecursiveCharacterTextSplitter，这是LangChain提供的一个非常实用的文本分割工具。它根据设定的块大小（chunk size）和重叠部分（chunk overlap）自动切分文本。
RecursiveCharacterTextSplitter的优势在于，它不仅可以按照字符数进行分割，还能根据上下文信息智能地进行调整，从而尽可能保留文档中的语义连贯性。例如，如果一个段落的最后部分与下一个段落的开始部分有较强的关联性，那么重叠区域就可以确保这些信息不会丢失。通过设定合适的块大小和重叠部分，可以在保证文本处理效率的同时，最大程度地保留原文中的关键信息。这样的切分方式有效避免了在后续检索和问答生成过程中可能会因为丢失上下文而导致的答案不准确或不完整的问题。
一旦文本分割完成，下一步就是将每个文本块转换为嵌入向量。在智能问答系统中，文本的嵌入表示是检索模型的核心部分。为了将分割后的文档块转化为向量，我自定义了DoubaoEmbeddings类。这个类通过调用Ark API（一个提供嵌入生成的外部服务）来实现文本到嵌入向量的转换。每个文本块被传递给Ark的嵌入接口，经过处理后，返回一个高维的向量表示。这些嵌入向量捕捉了文本的语义特征，能够有效地进行相似度计算，从而在向量数据库中进行快速检索。
这个过程的关键在于如何定义和优化嵌入。为了实现高效的向量检索，嵌入向量的质量至关重要。通过Ark API，我们可以确保使用最新的、经过优化的嵌入模型，将文档内容转化为准确且高效的向量表示。每个向量不仅代表了一个文本块的语义，还包含了它与其他文本块之间的潜在关联性。这样，在后续的问答环节中，当用户提出问题时，系统可以通过计算问题与文档向量之间的相似度，快速从文档库中找到最相关的答案。
总结来说，通过合理的文本分割和高质量的嵌入生成，我们为问答系统提供了一个强大的基础，使得系统能够在庞大的文档库中高效检索和生成答案。这一阶段的处理工作，不仅优化了计算性能，还提高了系统的准确性，为后续的问答环节打下了坚实的基础。
from langchain.embeddings.base import Embeddings
from langchain_community.vectorstores import Qdrant
class DoubaoEmbeddings(Embeddings):
def embed_documents(self, texts: List[str]) -> List[List[float]]:
return [self.embed_query(text) for text in texts]
vectorstore = Qdrant.from_documents(
documents=chunked_documents,
embedding=DoubaoEmbeddings(model="path_to_embedding_model"),
location=":memory:",
collection_name="my_documents",
)
在嵌入生成过程中，我考虑了嵌入模型的选择问题。虽然OpenAI的嵌入模型非常强大，但由于项目需要考虑性能，我选择了Ark API提供的嵌入模型。在实际使用中，我也发现不同模型的嵌入效果差异较大，因此后续可能需要对模型进行评估与调整。
向量检索与问答链
在智能问答系统中，核心的挑战之一就是如何从庞大的文档库中检索出与用户问题相关的信息。检索过程的质量直接影响到问答系统的表现，尤其是在处理大规模文档时，如何高效且准确地找到相关内容是至关重要的。为了实现这一目标，我们需要构建一个高效的向量检索系统。在LangChain中，MultiQueryRetriever类为我们提供了一个非常有用的工具，它可以通过向量检索的方式，从知识库中找到最相关的文档片段，并将其传递给语言模型，最终生成回答。
具体来说，MultiQueryRetriever的工作原理是基于文本块的嵌入向量，计算用户问题与文档块之间的相似度。通过这种方式，我们可以高效地检索到与问题最相关的文档片段。这些片段包含了能够解答用户问题的关键信息，而模型会基于这些片段生成回答。与传统的基于关键词的检索方式相比，向量检索能够更好地理解文本的语义，避免了关键词匹配时可能遇到的歧义问题。
在本项目中，我结合了MultiQueryRetriever和RetrievalQA链来实现这一目标。RetrievalQA链的作用是将检索到的文档片段与语言模型结合，通过生成式模型进一步推理出最终的回答。这种架构的优势在于，它不仅能够从文档库中提取出最相关的信息，还能基于这些信息生成流畅且有逻辑的答案，而不是仅仅返回原始的文档片段。
实现过程中，我也对检索过程进行了一些优化。首先，向量存储和检索的效率对系统的响应时间和准确性有很大影响。为了提高检索的准确性，我考虑了不同的向量存储和索引方式。例如，可以根据文档的内容特征选择不同的向量化模型，或者通过增加向量的维度来提升表示能力。同时，调整向量存储的参数（如chunk_size和chunk_overlap），能够确保每个文本块的切分更加合理，从而提高相似度计算的准确性。
此外，检索速度也是优化的一个重要方面。在大规模文档库的场景下，检索速度可能会成为瓶颈。为了优化这一点，我考虑了以下几种方式：首先是调整Qdrant向量数据库的配置，确保索引的构建和查询过程更加高效；其次，通过优化嵌入生成和存储的过程，减少不必要的计算开销；最后，还可以考虑引入缓存机制，将常用的查询结果缓存起来，以提高响应速度。
通过这些优化手段，我们不仅提升了检索的准确性，还有效缩短了检索的时间。最终，结合了检索与生成的RetrievalQA链能够在保证速度的同时，生成高质量的答案，使得整个智能问答系统更加高效且可靠。
总结来说，构建一个高效的向量检索系统是智能问答系统的核心环节，而MultiQueryRetriever和RetrievalQA链的结合，能够实现从文档库中精准检索并生成答案。在实际的实现过程中，检索效率和准确性的优化是关键，合适的配置和算法选择可以极大地提升系统的整体性能，最终为用户提供快速、准确的问答服务。
以下是生成问答链的代码：
from langchain_openai import ChatOpenAI
from langchain.retrievers.multi_query import MultiQueryRetriever
from langchain.chains import RetrievalQA
llm = ChatOpenAI(model="path_to_model", temperature=0)
retriever_from_llm = MultiQueryRetriever.from_llm(
retriever=vectorstore.as_retriever(), llm=llm
)
qa_chain = RetrievalQA.from_chain_type(llm, retriever=retriever_from_llm)
注意，我这里path_to_model可以替换成本地模型路径，实践中我尝试使用过Pythia等开源LLM
通过使用MultiQueryRetriever和RetrievalQA链，我们能够确保系统从知识库中准确地检索到相关信息，并通过大模型生成准确的答案。然而，在实际应用中，我也考虑到了可能的性能瓶颈，比如检索时间过长和生成答案时的延迟。因此，未来可以考虑加入更多的优化手段，比如使用不同的检索算法、缓存机制等。
Web界面与交互
为了让用户能够便捷地与系统交互，我使用Flask框架搭建了一个简单的Web界面。通过这个界面，用户可以输入问题，系统会调用问答链生成答案并展示在页面上。这不仅让整个系统具备了交互性，还能够测试和展示系统的实际效果。
from flask import Flask, request, render_template
app = Flask(__name__)
@app.route("/", methods=["GET", "POST"])
def home():
if request.method == "POST":
question = request.form.get("question")
result = qa_chain({"query": question})
return render_template("index.html", result=result)
return render_template("index.html")
if __name__ == "__main__":
app.run(host="0.0.0.0", debug=True, port=5000)
效果图如下：
小结
这个小实践中我最大的收获可能是对“如何让机器真正理解我们的问题”有了更多的思考。虽然系统能够从大量文档中找出相关的片段并生成答案，但仍然需要更多的调优和优化，尤其是在信息检索和答案生成的准确性方面。也许在未来的版本中，随着技术的进步，智能问答系统不仅能更好地理解问题，还能提供更加精准和个性化的回答。
