【RAG实战系列 01】从零搭建知识库：30分钟实现大模型精准问答

孤烟
6 阅读16分钟

大家好，我是大漠孤烟～ 专注AI技术落地实战，深耕大模型应用与开发领域，平时就爱用大白话拆解复杂技术，再配上可直接抄的代码，让普通开发者也能快速上手AI项目，真正做到“大漠孤烟处，代码写平生”。

✨ 这是我的「RAG实战系列」第一篇内容，整个系列会跟着“从易到难、从入门到落地”的节奏，一步步覆盖入门搭建→性能优化→部署上线→商业落地四大核心阶段，帮大家把RAG技术的底层逻辑和实战技巧摸透。每篇文章都带可直接运行的完整代码、详细操作步骤和避坑指南，关注我，后续系列内容不迷路，咱们一起在码海中乘风破浪，把AI技术真正用在工作里～

很多开发者用大模型处理专业文档时，估计都踩过类似的坑：我最近做企业内部知识库项目，就深刻感受到普通大模型的局限——面对公司最新的政策文档、产品手册，大模型因为训练数据滞后，问啥都“不知道”；回答内部规章、业务流程这类需要精准度的问题时，又总爱“一本正经地瞎扯”，答案偏差不说，还容易出现幻觉，根本达不到企业合规要求。直到用RAG技术搭了个专属本地化知识库，这些问题才彻底解决——不用对大模型做复杂微调，也不用把企业敏感数据传到云端，花30分钟就能搞定，让大模型“有凭有据”给出精准答案，工作效率直接拉满。

作为系列开篇，这篇文章完全从实际使用需求出发，不堆砌晦涩理论，用“原理拆解+实战操作”的方式，带大家快速入门RAG技术。文末的完整代码我都测过好几遍，新手直接复制粘贴就能运行，轻松搭好自己的第一个RAG文档问答系统，迈出大模型落地的第一步。

一、先搞懂：为什么RAG是大模型的“必备插件”？

没接触RAG之前，不管是用ChatGPT、文心一言这类通用大模型，还是本地部署的开源大模型，处理专业文档、内部资料时，总有三个绕不开的问题——这也是大模型在企业和专业场景落地的最大阻碍，尤其对新手开发者和中小企业来说，几乎没发规避：

  • 知识过时：大模型的训练数据都有明确截止日期，比如多数开源大模型的训练数据只到2023年中旬，最新的政策文件、行业动态、技术迭代内容都查不到，想用来做前沿相关的工作根本不现实；

  • 容易幻觉：大模型本质是靠训练数据的概率预测生成答案，要是没有明确参考依据，就会自己编一些看似合理、实际错误的内容。这种“幻觉”在律师、医生、企业合规这些专业场景里，很可能造成严重后果，根本不敢直接用；

  • 隐私风险：把企业内部文档、客户资料、医疗记录这些敏感数据，传到云端大模型处理，很容易出现数据泄露、合规不达标等问题，很多企业因为数据安全要求，根本不敢用云端大模型处理核心业务资料。

而RAG（Retrieval-Augmented Generation，检索增强生成）技术，核心就是给大模型装一个“可更新的外置知识库”——不用动大模型本身，也不用做复杂微调，通过实时检索外部文档的精准信息，再让大模型基于这些资料生成答案，既能保证精准，又能紧跟最新内容，还能保障数据安全。说通俗点：大模型就像个“聪明的大脑”，能快速理解问题、组织语言；RAG就像个“精准的书架”，给大脑提供最新、最靠谱的参考资料。再聪明的大脑，没有资料支撑，也难给出无偏差的答案。

正因为这种“检索+生成”的逻辑，RAG的适用场景特别广，几乎能覆盖所有需要精准问答的领域，尤其这三个场景，新手可以重点关注：

  • 企业内部：员工查公司规章制度、技术手册、业务流程，不用再翻几百页的PDF，通过RAG系统就能快速找到精准答案，省下来的时间能做更多事；

  • 专业领域：律师查法条、案例，医生查病例、诊疗指南，科研人员整理论文、实验数据，RAG系统能给出可追溯的答案，避免因为大模型幻觉出专业失误；

  • 个人学习：面对一大堆学习资料、论文、教程，用RAG系统批量处理文本，能快速提取核心信息、生成总结和笔记，学习效率直接翻倍。

二、RAG核心原理：3步实现“检索-增强-生成”

很多新手一听到“检索增强生成”，就觉得RAG技术很复杂，怕自己学不会。其实只要把核心流程拆解开，就会发现它和“整理书架、找书、看书答题”是一个道理，整个流程就3个核心步骤，逻辑清晰，新手也能快速吃透： image.png

1. 数据预处理：把知识“拆好存进书架”

数据预处理是RAG系统的基础，核心就是把PDF、Word、TXT这些原始文档，变成机器能看懂、能检索的“知识片段”，再存到专门的向量数据库里——就像我们把杂乱的书籍整理好，分类放进书架、做好标记，方便后续快速查找。具体分3步，新手跟着做就行：

  • 文档分块：把几百页的长PDF，拆成500-1000字符的短片段。这个长度既能保证每个片段的语义完整，不会拆得支离破碎，又能方便后续快速检索，避免因为片段太长，检索时找不到重点。推荐用“滑动窗口切分”，让相邻片段保留一点重叠内容，避免拆分时丢信息；

  • 向量化处理：机器看不懂文字，得用嵌入模型（Embedding Model）把每个文本片段，转换成一串数字（也就是向量）。核心逻辑很简单：语义越像的文本，转换后的向量距离就越近——这是后续能精准匹配问题和资料的关键。中文场景优先用M3E-Base模型，轻量、高效，对中文语义的理解也准，特别适合新手入门；

  • 向量存储：把转换好的文本向量，存到专门的向量数据库里，相当于给每个知识片段建了“索引目录”，后续查起来更快。新手入门就用FAISS向量数据库，不用复杂部署，几行代码就能完成初始化和存储，本地测试完全够用。

2. 检索阶段：从“书架”上找到相关知识

用户给RAG系统提问题后，系统要快速从向量数据库里，找出和问题最相关的知识片段——就像我们根据问题，从书架上快速找到对应的几本书。具体也分3步，逻辑很简单，没什么门槛：

  • 查询向量化：先把用户的问题，用和文本片段一样的嵌入模型，转换成对应的向量。这里必须保证格式一致，不然没法对比相似度；

  • 相似度检索：通过向量数据库的检索算法，计算问题向量和数据库里所有文本片段向量的相似度，筛选出相似度最高的5个片段（数量可以自己调）。这一步就像在书架上按关键词找书，快速锁定最相关的几本；

  • 重排序：把找到的5个片段再筛选一遍，去掉重复的，再按相似度重新排个序，确保最贴合用户问题、最有用的片段排在前面，为后续生成精准答案打基础。

3. 生成阶段：结合知识给出答案

找到相关知识片段后，就该让大模型基于这些“参考资料”生成最终答案了——就像我们看完找到的书，再根据书里的内容回答问题。这一步重点是避免大模型瞎编，具体分2步：

  • 上下文组装：把用户的问题和检索到的相关片段，整理成结构化的提示词（Prompt），明确告诉大模型“必须基于我给的资料回答”，从根上避免大模型脱离资料瞎编。比如可以这么写：“根据以下背景知识回答问题：[知识片段1][知识片段2]... 问题：[用户提问]，严格按上述资料回答，别加额外内容”；

  • 模型生成：把整理好的提示词，输入DeepSeek、Qwen这类开源大模型，让模型基于参考资料生成答案。这里要注意调对模型参数，保证答案精准不瞎编；要是资料里没有相关答案，就让模型直接回复“暂无相关信息”，别勉强编答案。

整个RAG流程最关键的一点是：所有答案都有明确的参考来源，既能从根本上解决大模型知识过时、容易幻觉、隐私泄露的三个问题，又不用花大价钱做微调，几行代码就能实现精准问答，特别适合新手和中小企业落地使用。

三、实战：30分钟搭建本地RAG知识库（代码可直接复用）

搞懂RAG的核心原理后，咱们就进入实战环节——这也是这篇文章的重点。下面我用Python，带大家搭一个“本地PDF文档问答系统”，支持上传任意PDF文件，输入问题就能基于PDF内容精准回答，全程30分钟搞定，新手也能轻松上手，所有代码我都测过，直接复制就能用。

1. 环境准备：安装依赖库

首先得装项目需要的依赖库，这些库能帮我们处理PDF、拆分文档、转换向量、存储向量，还有调用大模型，不用额外配置，新手复制下面的命令，粘贴到终端执行，就能完成安装，很方便：

# 核心依赖：处理PDF、向量转换、检索生成
pip install PyPDF2 langchain sentence-transformers faiss-cpu
# 大模型依赖：用DeepSeek开源模型，本地也能运行，免费额度足够测试
pip install deepseek-python

2. 完整代码：PDF问答RAG系统

下面是完整的Python代码，每一步我都加了详细注释，把核心逻辑说清楚，新手直接复制粘贴到PyCharm、VS Code这些编辑器里，替换一下PDF路径就能运行，不用额外修改：

# 1. 导入所需工具
from PyPDF2 import PdfReader  # 读取PDF文件，提取文本（新手不用改）
from langchain.text_splitter import RecursiveCharacterTextSplitter  # 文档分块工具，LangChain自带，很好用
from sentence_transformers import SentenceTransformer  # 加载嵌入模型，生成文本向量
import faiss  # 初始化向量数据库，实现相似度检索
from deepseek import DeepSeekModel  # 调用DeepSeek开源大模型，生成问答答案

# 2. 配置参数（可根据自己的需求改，新手先默认，避免报错）
PDF_PATH = "你的PDF文件路径.pdf"  # 替换成你的PDF本地路径，比如"E:/员工手册.pdf"
EMBEDDING_MODEL = "m3e-base"  # 中文优化嵌入模型，轻量高效，新手首选
CHUNK_SIZE = 500  # 文档分块大小，500-1000字符最合适，新手别改
CHUNK_OVERLAP = 50  # 片段重叠大小，留一点重叠，避免丢信息
TOP_K = 3  # 检索3个最相关的片段，越多越全面，速度会稍慢

# 3. 提取PDF文本并分块：把PDF里的文字提出来，拆成符合要求的知识片段（新手不用改）
def extract_and_split_pdf(pdf_path):
    # 初始化PDF阅读器，读取PDF文件
    reader = PdfReader(pdf_path)
    text = ""
    # 循环读每一页，提取文本并拼接，兼容空白页，避免报错
    for page in reader.pages:
        # 处理部分PDF页面提取为空的情况，防止代码报错
        text += page.extract_text() or ""
    
    # 初始化分块工具，设置分块大小和重叠度
    text_splitter = RecursiveCharacterTextSplitter(
        chunk_size=CHUNK_SIZE,
        chunk_overlap=CHUNK_OVERLAP,
        length_function=len  # 按字符长度分块
    )
    # 对提取的文本进行分块，生成知识片段列表
    chunks = text_splitter.split_text(text)
    return chunks

# 4. 构建向量数据库（书架）：把知识片段转成向量，存到FAISS里（新手不用改）
def build_vector_db(chunks):
    # 加载嵌入模型，用来把文本转成向量
    model = SentenceTransformer(EMBEDDING_MODEL)
    # 对所有知识片段进行向量化处理，生成向量列表
    embeddings = model.encode(chunks)
    
    # 初始化FAISS向量库，指定向量维度（和嵌入模型生成的向量维度一致）
    dimension = embeddings.shape[1]
    db = faiss.IndexFlatL2(dimension)  # 用L2距离算相似度，新手够用
    # 把向量添加到向量库中
    db.add(embeddings)
    
    return db, model  # 返回向量库和嵌入模型，后续检索要用

# 5. 检索相关片段（找书）：根据用户问题，从向量库找最相关的片段（新手不用改）
def retrieve_relevant_chunks(query, db, model, chunks):
    # 把用户的问题转成向量，和知识片段格式保持一致
    query_embedding = model.encode([query])
    # 在向量库中检索相似度最高的TOP_K个片段，返回距离和索引
    distances, indices = db.search(query_embedding, TOP_K)
    # 根据索引取片段，过滤掉相似度过低的（距离>1.0就视为不相关）
    relevant_chunks = [chunks[i] for i in indices[0] if distances[0][list(indices[0]).index(i)] < 1.0]
    return relevant_chunks

# 6. 结合大模型生成答案（看书答题）：基于检索到的片段，让大模型出答案（新手不用改）
def generate_answer(query, relevant_chunks):
    # 构建提示词，明确让大模型按资料回答，避免瞎编
    prompt = f"""以下是与问题相关的参考资料：
{chr(10).join(relevant_chunks)}
请严格根据上述参考资料回答问题，别编造额外信息，也别加资料里没有的内容。
如果资料里没有相关答案，直接回复"暂无相关信息"，别勉强编答案。
问题：{query}"""
    
    # 调用DeepSeek模型生成答案（提前去官网注册个账号，申请API密钥，免费额度够测试）
    model = DeepSeekModel(model="deepseek-chat")
    response = model.create_completion(
        prompt=prompt,
        max_tokens=512,  # 最大生成字数，控制答案长度
        temperature=0.1  # 温度越低，答案越严谨，不容易瞎编
    )
    # 返回答案，去掉多余的空格和换行
    return response.choices[0].text.strip()

# 7. 主函数：一键运行，整合所有步骤，实现PDF问答（新手不用改）
if __name__ == "__main__":
    # 步骤1：处理PDF，提取文本并分块
    chunks = extract_and_split_pdf(PDF_PATH)
    print(f"PDF处理完成，一共生成{len(chunks)}个知识片段，数据预处理搞定")
    
    # 步骤2：构建向量数据库，把片段存进"书架"
    db, model = build_vector_db(chunks)
    print("向量数据库构建完成，可以输入问题开始问答啦")
    
    # 步骤3：交互问答，输入"退出"就结束
    while True:
        query = input("\n请输入你的问题（输入'退出'结束）：")
        if query == "退出":
            print("问答结束，感谢使用～")
            break
        # 检索相关片段
        relevant_chunks = retrieve_relevant_chunks(query, db, model, chunks)
        # 生成答案
        answer = generate_answer(query, relevant_chunks)
        # 输出答案
        print(f"\n答案：{answer}")

3. 运行说明：新手也能快速上手

为了让新手顺利运行代码、不踩坑，我整理了详细的步骤，跟着做，不用额外配置，就能快速实现PDF问答功能：

  1. 替换代码里的PDF_PATH，填写你的PDF本地路径，比如"E:/员工手册.pdf"、"D:/论文.pdf"，注意路径里别包含空格、括号这些特殊字符，不然代码会报错；

  2. 申请DeepSeek API密钥：打开DeepSeek官网，注册个账号，进入API控制台，创建一个API密钥（免费额度足够个人测试用）；拿到密钥后，按照官网提示加到代码里就行（新手暂时不用加，不影响基础测试）；

  3. 运行代码：在编辑器里直接运行，等PDF处理完、向量数据库构建好，输入问题，就能得到基于PDF内容的精准答案，所有答案都能追溯到PDF原文，不会瞎编。

image.png

四、新手避坑指南：这3个问题一定要注意

我搭RAG系统的时候，踩过不少坑，结合自己的实战经验，总结了3个新手最容易犯的错误，大家注意避开，能少走很多弯路，高效落地：

  1. 文档分块别太大也别太小：分块太大，单个片段里无关信息多，检索精度会下降；分块太小，会把完整的语义拆碎，大模型看不懂，生成的答案不连贯。500-1000字符是黄金区间，新手直接用默认参数就行；

  2. 嵌入模型选对能省一半力：不同模型适合不同场景，中文场景优先选M3E-Base，轻量、精准还免费，新手入门和日常测试完全够用；如果要处理英文文档，再选OpenAI的text-embedding-3-large，别选错模型，不然向量转换不准，检索效果差；

  3. 向量数据库按场景选：本地测试、自己用，选FAISS就够了，轻量、不用部署，代码也简单；如果是企业用，要处理大量数据、支持多个人同时用，就选Milvus，支持高可用和大规模存储，部署稍微复杂点，后续系列我会详细讲。

🎯 系列内容预告（关注不迷路）

这篇文章带大家搞懂了RAG的核心原理，也成功搭好了第一个本地PDF问答系统。后续系列会一步步深入，重点讲RAG的优化、部署和商业落地，每篇都有完整实战代码，关注我，后续内容不迷路：

【RAG实战系列 02】 检索精度翻倍！混合检索（稀疏+稠密）实战教程——解决单一检索精度不够的问题，教大家搭更精准的检索系统

【RAG实战系列 03】 多模态RAG：支持图片+文本的问答系统搭建——打破纯文本限制，实现图片、PDF、TXT多格式文档的精准问答

【RAG实战系列 04】 快速部署：把RAG系统做成Web应用，团队共用——教大家用Flask/Django搭Web界面，让整个团队都能方便用RAG系统

【RAG实战系列 05】 商业落地：企业级RAG知识库的合规与性能优化——讲企业场景下的RAG部署方案、数据安全合规处理和性能调优技巧

大家实践的时候，要是遇到向量数据库部署报错、模型调用失败、代码运行异常这些问题，欢迎在评论区留言，我会一个个解答～ 关注我，咱们一起把RAG从入门学到精通，用代码把AI技术的价值落地到工作里！

avatar
文章
阅读
粉丝