CubeStudio 是一款国产化、云原生的一站式开源人工智能平台,同时覆盖传统机器学习、深度学习与大模型全链路(MLOps / MaaS / 算力调度 / 训推平台),开源协议 MIT,开源免费商用,开源版本已有数千家企业私有化部署。平台提供多租户与算力纳管调度、算力租赁与 Token 中转站、拖拉拽 Pipeline 任务流编排、多机多卡分布式训练、超参搜索、推理服务、vGPU 虚拟化、云边端协同与边缘计算、图文音多模态自动化标注、大模型 SFT 微调 / 奖励模型 / 强化学习训练、vLLM / Ollama / MindIE 大模型多机推理、私有知识库 / LLMOps / 智能体、AI 模型市场,以及从数据到上线的全流程模型部署。原生适配昇腾、寒武纪、海光、摩尔线程、沐曦等国产异构算力与 x86 / ARM CPU 架构,支持 IB / RoCE / RDMA 高速网络及信创私有化、内网离线部署。
官网:www.cubestudio.vip | GitHub:github.com/data-infra/… | Gitee:gitee.com/data-infra/…
关键词:CubeStudio、cube-studio、私有知识库、知识库问答、RAG、召回、recall_url、upload_url、提示词模板、prompt、多轮对话、history、query、knowledge、service_type、openai、aihub、安全围栏、内容安全、OCR、联网搜索、深度思考、语音识别、语音合成、多模态、文生图、AIGC、微信、钉钉、大模型、LLM、LLMOps
「把公司内部文档喂给大模型,让它照着答」——这是私有知识库最朴素的需求,也是 RAG(检索增强生成)最典型的落地场景。难点在于:怎么把大知识库切分、向量化、按用户问题召回最相关的片段,再拼进提示词一起喂给模型;答得不准时又怎么单独调试召回效果。
CubeStudio 把这条链路做成了「配置即用」:点右上角的「AI」图标进入私有知识库,一个大模型配上你的先验知识文件 + 不同的提示词模板,就能派生出多个场景。本文讲清它的配置模型、RAG 召回机制,以及内容安全、多模态、微信钉钉等增强能力。
一、核心机制:提示词模板的三个变量
私有知识库的本质,是把「召回内容 + 历史对话 + 用户问题」按模板拼成最终提示词。CubeStudio 的提示词模板支持三个占位变量:
| 变量 | 含义 |
|---|---|
{{knowledge}} | 知识库召回的相关内容(RAG 检索结果) |
{{history}} | 多轮对话历史 |
{{query}} | 当前用户问题 |
工作流程是:先配置一个大的先验知识库 → 用户提问时按 query 召回最相关的一批先验知识 → 把召回内容填进 {{knowledge}},连同 {{history}}、{{query}} 一起提交给大模型。若模板里漏了 {{query}},平台会自动补上;若没配任何知识库,则自动切换成纯多轮对话模式。
二、知识库配置:upload_url 与 recall_url
知识库通过一段 JSON 配置,关键字段:
{
"type": "api|file",
"file": "/mnt/$username/", // 文件或目录地址,可多个
"upload_url": "", // 知识库上传(向量化入库)地址
"recall_url": "", // 召回地址
"headers": {}, "data": {} // api 类型的附加请求参数
}
- 两种来源:
type为file(直接挂载文件/目录)或api(走自定义接口)。 - 内置召回服务:不单独配置时,
upload_url/recall_url默认指向平台内置的chat-embedding服务(http://chat-embedding.aihub:80/aihub/chat-embedding/api/upload_files与/recall)——开箱即有一套向量化入库 + 召回能力,无需自己搭。 - 召回调试:答案离预期太远时,可直接通过
recall_url单独调用召回接口,检查「到底召回了哪些片段」,把 RAG 的检索环节和生成环节分开定位问题。
一个常见配方:把规模较大的先验知识库配成 upload_url 入库,把召回相关性最高的小知识库结果配成 recall_url,就能把最相关的内容放进提示词,显著提升回答准确性。
三、接口类型:openai 与 aihub
「服务类型」service_type 可选 openai(默认)与 aihub。名字叫 openai,但接口不必真的是 OpenAI——只要符合 HTTP 请求/响应格式即可对接任意大模型服务。
openai 类型(对话大模型):
{
"llm_url": "http://xxx/v1/",
"llm_headers": { },
"llm_tokens": [], // token 池,支持轮询多个 key
"stream": "false",
"before": [["replace","substr1","substr2"]], // 请求前文本替换规则
"after": [["replace","substr1","substr2"]] // 响应后文本替换规则
}
aihub 类型(调用 AIHub 应用,如文生图 AIGC):
{
"url": "aihub 应用请求地址",
"data": { "prompt": "$text" }, // $text/$image/$audio/$video 多模态输入
"output": "image", // text/markdown/image/audio/video
"req_num": 1, // 请求次数,文生图可设 4 次出多图
"stream": "true"
}
也就是说,同一个知识库对话界面,既能接文本大模型,也能接文生图等多模态 AIHub 应用。
四、增强能力:安全围栏 / OCR / 联网搜索 / 语音
每个场景可在 expand 中按需开启一批增强开关:
| 开关 | 能力 |
|---|---|
enabled_upload_file | 对话中上传文件 |
enabled_safety_detection | 安全围栏(输入/输出内容安全检测) |
enabled_ocr | 上传图片 OCR 识别 |
enabled_search | 联网搜索 |
enabled_thinking | 深度思考 |
enable_asr / enable_tts | 语音识别 / 语音合成 |
其中安全围栏可细调阈值(对接安全服务 /api/v1/safety-check,取值 [0,1],越小越严格):输入侧检测禁止主题(涉政/涉黄/暴恐/诈骗等,默认 0.8)、提示词注入攻击(默认 0.8);输出侧检测禁止主题(默认 0.4,比输入更严)、PII 敏感信息(手机号/身份证/银行卡/Token,默认 0.0 发现即拦截)、恶意链接(默认 0.6)。对话类型还支持文本对话与数字人。
五、多入口接入:微信、钉钉、聊天窗
私有知识库已与微信、钉钉打通——填入自有微信/钉钉后台的 AppID、密钥、Token 等,即可把知识库变成企业微信/钉钉里的智能问答机器人。此外平台自带 Python 聊天窗,可在窗内直接新建会话、上传知识库文件,效果与后台预配置一致,方便快速验证。
小结
从「一堆内部文档」到「一个带 RAG 召回、内容安全、可在微信钉钉里用的智能问答」,在 CubeStudio 上就是几段 JSON 配置的事:{{knowledge}}/{{history}}/{{query}} 定义提示词、upload_url/recall_url 定义检索、service_type 定义模型接口、expand 定义增强能力。配合平台内置的 embedding 召回服务和推理服务,私有大模型知识库可以完全跑在自己的内网里。
了解更多
CubeStudio 采用 MIT 开源协议,开源免费商用并支持源码交付与二次分发,开源版本已有数千家企业私有化部署。
- 官网与在线文档:www.cubestudio.vip
- 开源仓库(GitHub):github.com/data-infra/…
- 开源仓库(Gitee):gitee.com/data-infra/…