如何充分发挥 FastGPT 知识库的强大功能?关键在于高质量的数据输入!
PDF 作为相对复杂的文件格式,需转换为文本作为知识库素材,FastGPT 内置的 pdf 解析器依赖 pdfjs 库解析,该库基于逻辑解析,遇到图片、表格、公式等非简单文本内容,可能发现解析效果不佳。
为了解决这一痛点,您可以在 FastGPT 社区版或商业版中,通过接入 minerU2 或 Marker 等专业的文档解析工具,实现增强解析!
minerU2 是一款强大的视觉解析引擎,它能将您的 PDF、JPG 和 PNG 文件,精准地转换为保留了图片、表格和公式的 Markdown 文本。这不仅极大地提升了文档解析的精度和质量,更显著优化了处理速度。现在,您可以将内容最丰富的文档无损导入知识库,释放 FastGPT 的全部潜力!
在 FastGPT v4.9.0 以上版本中,社区版用户可以在config.json文件中添加systemEnv.customPdfParse 配置,来接入 minerU2 。商业版用户则可以直接在 Admin 管理后台根据表单指引轻松完成填写。此方法同样支持接入 Marker 解析服务。
增强解析-效果展示
接入 minerU2 后,您将看到对复杂文档内容的解析能力得到质的飞跃。
图片识别效果:
公式识别效果:
表格识别效果:
手写体识别效果:
接入 minerU2 详细指南
在本地环境中接入 minerU2 的过程非常简单:只需拉取官方镜像,启动容器,然后将服务地址填入 FastGPT 的配置文件或管理后台即可。
1. 硬件需求
为了确保 minerU2 稳定运行,请参考以下硬件配置建议:
- GPU: 至少 16GB+ 显存的推理卡,推荐使用 32GB+ 以获得更佳性能。
- 内存: 推荐 32GB+。
- 其他详细信息可参考官方 GitHub 项目:
https://github.com/opendatalab/MinerU
2. 拉取镜像,启动容器
我们提供的 Docker 镜像已内置所有 pipeline 模型和对接 FastGPT 的 API 服务,有效避免了因网络问题导致模型拉取失败的风险。
- 拉取 Docker 镜像:
docker pull crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1
- 启动 Docker 容器 ( GPU 环境):
docker run --gpus all -itd -p 7231:8001 --name mode_pdf_minerU crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1
注意:该服务会自动检测并利用所有可用的 GPU 资源。例如,若您的服务器有 3 个 GPU,服务将自动创建 3 个并行处理进程,可同时处理 3 个文件,大幅提升效率。
3. 配置 URL 至 FastGPT 平台
您可以通过以下两种方式之一,将 minerU2 服务地址配置到 FastGPT 中。
通过docker部署的Mineru的pdf服务地址格式为: http://<您的IP>:7231/v2/parse/file 。您需要将其中的 <您的IP> 替换成您服务器的实际 IP地址,然后将这个完整的 URL 填入到 FastGPT 的配置中。
方式一:商业版 Admin 后台配置
登录您的 FastGPT 管理后台(默认为 http://localhost:3002/ ),在相应配置项中填入 minerU2 的 URL 地址即可。
方式二:社区版 config.json 文件配置
打开 FastGPT 的 config.json 文件(你可以在官方文档
《Docker Compose 快速部署》中找到),找到 systemEnv.customPdfParse 部分,并将 URL 填入其中。
// 已使用 json5 进行解析,会自动去掉注释,无需手动去除
{
"feConfigs": {
"lafEnv": "https://laf.dev", // laf环境。 https://laf.run (杭州阿里云) ,或者私有化的laf环境。如果使用 Laf openapi 功能,需要最新版的 laf 。
"mcpServerProxyEndpoint": "" // mcp server 代理地址,例如: http://localhost:3005
},
"systemEnv": {
"vectorMaxProcess": 10, // 向量处理线程数量
"qaMaxProcess": 10, // 问答拆分线程数量
"vlmMaxProcess": 10, // 图片理解模型最大处理进程
"tokenWorkers": 30, // Token 计算线程保持数,会持续占用内存,不能设置太大。
"hnswEfSearch": 100, // 向量搜索参数,仅对 PG 和 OB 生效。越大,搜索越精确,但是速度越慢。设置为100,有99%+精度。
"hnswMaxScanTuples": 100000, // 向量搜索最大扫描数据量,仅对 PG生效。
"customPdfParse": {
"url": "", // 自定义 PDF 解析服务地址
"key": "", // 自定义 PDF 解析服务密钥
"doc2xKey": "", // doc2x 服务密钥
"price": 0 // PDF 解析服务价格
}
}
}
保存配置(若修改 config.json,则需重启 FastGPT 服务)后,一切准备就绪。然后你就可以在 FastGPT 的知识库中,对导入的 PDF 格式文件进行增强解析。
minerU2 和 FastGPT 的结合,意味着:
- 更精准的文档解析: 告别错乱的排版和丢失的表格,minerU2 助你完美还原文档结构。
- 更强大的问答体验: 高质量的知识库源文件意味着 FastGPT 能提供更准确、更可靠的回答。
快来试试吧,让你的 FastGPT 知识库如虎添翼!