FastGPT本地化部署接入 minerU2 详细指南

83 阅读4分钟

如何充分发挥 FastGPT 知识库的强大功能?关键在于高质量的数据输入!

PDF 作为相对复杂的文件格式,需转换为文本作为知识库素材,FastGPT 内置的 pdf 解析器依赖 pdfjs 库解析,该库基于逻辑解析,遇到图片、表格、公式等非简单文本内容,可能发现解析效果不佳。

为了解决这一痛点,您可以在 FastGPT 社区版或商业版中,通过接入 minerU2Marker 等专业的文档解析工具,实现增强解析

minerU2 是一款强大的视觉解析引擎,它能将您的 PDF、JPG 和 PNG 文件,精准地转换为保留了图片、表格和公式的 Markdown 文本。这不仅极大地提升了文档解析的精度和质量,更显著优化了处理速度。现在,您可以将内容最丰富的文档无损导入知识库,释放 FastGPT 的全部潜力!

FastGPT v4.9.0 以上版本中,社区版用户可以在config.json文件中添加systemEnv.customPdfParse 配置,来接入 minerU2 。商业版用户则可以直接在 Admin 管理后台根据表单指引轻松完成填写。此方法同样支持接入 Marker 解析服务。


增强解析-效果展示

接入 minerU2 后,您将看到对复杂文档内容的解析能力得到质的飞跃。

图片识别效果:

公式识别效果:

表格识别效果:

手写体识别效果:


接入 minerU2 详细指南

在本地环境中接入 minerU2 的过程非常简单:只需拉取官方镜像,启动容器,然后将服务地址填入 FastGPT 的配置文件或管理后台即可。

1. 硬件需求

为了确保 minerU2 稳定运行,请参考以下硬件配置建议:

  • GPU: 至少 16GB+ 显存的推理卡,推荐使用 32GB+ 以获得更佳性能。
  • 内存: 推荐 32GB+。
  • 其他详细信息可参考官方 GitHub 项目:https://github.com/opendatalab/MinerU

2. 拉取镜像,启动容器

我们提供的 Docker 镜像已内置所有 pipeline 模型和对接 FastGPT 的 API 服务,有效避免了因网络问题导致模型拉取失败的风险。

  • 拉取 Docker 镜像:
docker pull crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1

  • 启动 Docker 容器 ( GPU 环境):
docker run --gpus all -itd -p 7231:8001 --name mode_pdf_minerU crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1

注意:该服务会自动检测并利用所有可用的 GPU 资源。例如,若您的服务器有 3 个 GPU,服务将自动创建 3 个并行处理进程,可同时处理 3 个文件,大幅提升效率。

3. 配置 URL 至 FastGPT 平台

您可以通过以下两种方式之一,将 minerU2 服务地址配置到 FastGPT 中。

通过docker部署的Mineru的pdf服务地址格式为: http://<您的IP>:7231/v2/parse/file 。您需要将其中的 <您的IP> 替换成您服务器的实际 IP地址,然后将这个完整的 URL 填入到 FastGPT 的配置中。

方式一:商业版 Admin 后台配置

登录您的 FastGPT 管理后台(默认为 http://localhost:3002/ ),在相应配置项中填入 minerU2 的 URL 地址即可。

方式二:社区版 config.json 文件配置

打开 FastGPT 的 config.json 文件(你可以在官方文档

《Docker Compose 快速部署》中找到),找到 systemEnv.customPdfParse 部分,并将 URL 填入其中。

// 已使用 json5 进行解析,会自动去掉注释,无需手动去除
{
  "feConfigs": {
    "lafEnv": "https://laf.dev", // laf环境。 https://laf.run (杭州阿里云) ,或者私有化的laf环境。如果使用 Laf openapi 功能,需要最新版的 laf 。
    "mcpServerProxyEndpoint": "" // mcp server 代理地址,例如: http://localhost:3005
  },
  "systemEnv": {
    "vectorMaxProcess": 10, // 向量处理线程数量
    "qaMaxProcess": 10, // 问答拆分线程数量
    "vlmMaxProcess": 10, // 图片理解模型最大处理进程
    "tokenWorkers": 30, // Token 计算线程保持数,会持续占用内存,不能设置太大。
    "hnswEfSearch": 100, // 向量搜索参数,仅对 PG 和 OB 生效。越大,搜索越精确,但是速度越慢。设置为100,有99%+精度。
    "hnswMaxScanTuples": 100000, // 向量搜索最大扫描数据量,仅对 PG生效。
    "customPdfParse": {
      "url": "", // 自定义 PDF 解析服务地址
      "key": "", // 自定义 PDF 解析服务密钥
      "doc2xKey": "", // doc2x 服务密钥
      "price": 0 // PDF 解析服务价格
    }
  }
}

保存配置(若修改 config.json,则需重启 FastGPT 服务)后,一切准备就绪。然后你就可以在 FastGPT 的知识库中,对导入的 PDF 格式文件进行增强解析。


minerU2 和 FastGPT 的结合,意味着:

  • 更精准的文档解析: 告别错乱的排版和丢失的表格,minerU2 助你完美还原文档结构。
  • 更强大的问答体验: 高质量的知识库源文件意味着 FastGPT 能提供更准确、更可靠的回答。

快来试试吧,让你的 FastGPT 知识库如虎添翼!