部署
环境要求
按照Github上,coze-studio项目的介绍:
要求:
- 机器满足:2核、4G主存
- 需要安装Docker和Docker Compose,并启动Docker服务
前期准备
API-KEY
登陆火山方舟管理控制台
以下三步骤都是必须的准备步骤
开通管理 (如果是自己玩玩的话 百万token还是洒洒水的)
API KEY管理
创建后即有对应的apikey
在线推理
在线推理主要提供配置文件中对应的选定模型ID(例如这个是DeepSeek-V3.1的ID)
具体的选项可参考以下:
因为接入的模型有很多 所以统一一个命名规范会更好
拉取代码与配置模型
在机器终端中运行git命令拉取coze-studio代码
git clone github.com/coze-dev/co…
向量化模型(Embedding)
Coze Studio 开源版支持自定义设置知识库向量化依赖的 Embedding 模型,使知识库的向量化环节效果更符合指定场景的业务需求。
- 如果向量化存储模块使用 milvus,则必须参考本文档设置 Embedding 模型。
- VikingDB 向量库自带 Embedding 功能,如果向量化存储模块使用 milvus,则可以自行选择使用预置的 VikingDB 模型或者使用 OpenAI 或其他模型。
配置流程如下:
- 在正式部署前需要配置好embedding模型,不然上传文件解析不了哈哈,可以在 .env.example 中配置
cd coze-studio
cp .env.example .env
这里拿火山方舟举例
- URL:ark.cn-beijing.volces.com/api/v3/
- Model:(可以选择在线推理的模型ID亦或是完整的模型名称)
- API-KEY:上面申请配置的APIKEY
- 保存文件。
大模型(LLM)
配置模型:
从模板目录中复制doubao-seed-1.6模型的模板文件,并将其粘贴到配置文件目录中。
cd coze-studio
cp backend/conf/model/template/model_template_ark_doubao-seed-1.6.yaml backend/conf/model/ark_doubao-seed-1.6.yaml
修改配置文件目录中的模板文件,我们需要进入到backend/conf/model/目录下,
cd backend/conf/model/
vim ark_doubao-seed-1.6.yaml
需要去设置字段:
1. id (选一个你喜欢的数字就好没有特殊限制,主要是用于记录配置)
2. meta.conn_config.api_key (对应刚刚的APIKEY)
3. meta.conn_config.model (类似于配置Embedding模型的model)
最后当然需要保存处理
正式部署
-
部署并启动服务。 首次部署并启动 Coze Studio 需要拉取镜像、构建本地镜像,可能耗时较久。
cd coze-studio cp .env.example .env docker compose -f ./docker/docker-compose.yml up
其中一个Elasticsearch镜像,由于较大所以容易误判超时,可以选择单独拉取,若还是有问题亦可以参考官方的解决方法:
结尾换行符的方式不同,Windows电脑会出现这种情况,
方法一:切换WSL模式再docker compose
方法二:利用IDE把 docker\volumes\elasticsearch\setup_es.sh 行尾序列从CRLF换成LF 保存
具体实践
-
注册账号,访问
http://localhost:8888/sign输入用户名、密码点击注册按钮。 -
配置模型:访问
http://localhost:8888/admin/#model-management新增模型。(镜像版本需要大于等于 0.5.0)。 -
访问 Coze Studio
http://localhost:8888