大模型&知识库私有化部署

1、安装ollama，Ollama

ollama.com

2、获取、启动模型

ollama pull llama3.1
ollama list
ollama run llama3.1

ollama pull llama3.1

ollama list

ollama run llama3.1

3、安装maxkb，MaxKB - 基于大语言模型和 RAG 的知识库问答系统 - 官网

Linux 操作系统

docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

4、浏览器访问

访问地址：ip:8080
账号：admin
默认密码：MaxKB@123..