windows 安装&配置 AnythingLLM

0 阅读1分钟

简介

AnythingLLM 是一款全栈式 AI 应用,主打 “本地私有 + 多场景适配”,可将文档、链接、音视频等资源转化为上下文,供大语言模型(LLM)在对话中调用,帮助用户构建私人 AI 知识库与助手,无需依赖第三方平台。

核心功能

  • 全类型资源支持:兼容 PDF、DOCX、CSV、代码库、网页链接等,甚至支持音视频转录后分析。
  • 灵活的 LLM 适配:可对接本地模型(如 Ollama、LM Studio)或云端模型(OpenAI、Azure、AWS 等),支持多模态模型。
  • 隐私优先:默认本地运行,模型、文档、聊天记录均存储在本地,无数据泄露风险,无需注册账号。
  • 多场景部署:支持桌面端(Windows/Mac/Linux)、Docker 自托管、云端部署,提供一键安装包,开发者可通过 API 自定义集成。
  • 实用辅助功能:含多用户权限管理、工作区隔离(避免上下文干扰)、嵌入聊天窗口(可集成到网站)、两种对话模式(聊天 / 查询)等。

安装

下载AnythingLLM

配置

启动后,AnythingLLM 会让你选择一个 LLM,如果你的电脑有安装 Ollama LLMProvider 选择Ollama,AnythingLLM 会自动选择Ollama 中正在运行的模型列表

EmbeddingPreference: 是选择一个 mbedding 模型(嵌入模型)将非结构化数据(文本、图片、音频等文件)转化为计算机可理解的低维稠密数值向量(Embedding 向量),暂时使用默认的 AnythingLLMEmbedder 即可 VectorDatabase: 是选择一个 向量数据库存储 mbedding 模型输出的向量。使用默认的 LanceDB 即可 image.png

上传资料

image.png

image.png

将文件数据转换并存储到向量数据库中,并应用到当前工作区间 image.png