搭建ai本地知识库

xv
1,637 阅读1分钟

仅用作自己学习记录

1.下载Ollama和LLM两个软件

image.png

2.ollama下载模型

image.png

选择版本和复制命令

1739758098180.jpg

3.cmd执行刚才复制的指令，执行后会下载模型

image.png

4.下载向量化模型 选择embedding

image.png 选择bge-m3这个模型

image.png 复制指令和执行下载 image.png image.png

5.指令查看已安装的模型

image.png

6.打开LLM软件，新建工作区

image.png

7.点击设置

image.png

8.LLM首选项里，LLM提供商选择ollama，模型选择刚才下载的模型

image.png

9.Embedder首选项里，嵌入引擎提供商选择ollama，向量化模型选择bge-m3

image.png

10.上传私有知识库

本地创创建一个知识库，简单的创建一个txt文件，在里面编辑好信息保存

image.png

在anything llm上点击上传按钮 image.png

11.选择文件

image.png

12.勾选上传的文件，点击按钮

image.png

下拉，点击保存

image.png

13.对话框提问，会优先检索上传的知识库

image.png

14.知识库上传成功后再开启对话。使用中发现，未上传成功就问了问题，上传成功后再问这个问题，不会去知识库检索，而是延续了之前的对话回答思路

avatar
文章
阅读
粉丝