Coze部署前期准备

59 阅读3分钟

部署

环境要求

按照Github上,coze-studio项目的介绍:

要求:

  • 机器满足:2核、4G主存
  • 需要安装Docker和Docker Compose,并启动Docker服务

image.png

前期准备

API-KEY

登陆火山方舟管理控制台

console.volcengine.com/ark

以下三步骤都是必须的准备步骤

开通管理 (如果是自己玩玩的话 百万token还是洒洒水的)

image.png

API KEY管理

创建后即有对应的apikey

image.png

在线推理

在线推理主要提供配置文件中对应的选定模型ID(例如这个是DeepSeek-V3.1的ID)

image.png

具体的选项可参考以下:

因为接入的模型有很多 所以统一一个命名规范会更好

image.png

拉取代码与配置模型

在机器终端中运行git命令拉取coze-studio代码

git clone github.com/coze-dev/co…

向量化模型(Embedding)

Coze Studio 开源版支持自定义设置知识库向量化依赖的 Embedding 模型,使知识库的向量化环节效果更符合指定场景的业务需求。

  • 如果向量化存储模块使用 milvus,则必须参考本文档设置 Embedding 模型。
  • VikingDB 向量库自带 Embedding 功能,如果向量化存储模块使用 milvus,则可以自行选择使用预置的 VikingDB 模型或者使用 OpenAI 或其他模型。

配置流程如下:

  1. 在正式部署前需要配置好embedding模型,不然上传文件解析不了哈哈,可以在 .env.example 中配置
    cd coze-studio

    cp .env.example .env

这里拿火山方舟举例

image.png

  1. 保存文件。
大模型(LLM)

配置模型:

从模板目录中复制doubao-seed-1.6模型的模板文件,并将其粘贴到配置文件目录中。

cd coze-studio
cp backend/conf/model/template/model_template_ark_doubao-seed-1.6.yaml backend/conf/model/ark_doubao-seed-1.6.yaml

修改配置文件目录中的模板文件,我们需要进入到backend/conf/model/目录下,

cd backend/conf/model/
vim ark_doubao-seed-1.6.yaml

需要去设置字段: 

1. id (选一个你喜欢的数字就好没有特殊限制,主要是用于记录配置)

2. meta.conn_config.api_key (对应刚刚的APIKEY)

3. meta.conn_config.model (类似于配置Embedding模型的model)

image.png

最后当然需要保存处理

正式部署

  1. 部署并启动服务。 首次部署并启动 Coze Studio 需要拉取镜像、构建本地镜像,可能耗时较久。

    cd coze-studio
    
    cp .env.example .env
    
    docker compose -f ./docker/docker-compose.yml up
    
    

其中一个Elasticsearch镜像,由于较大所以容易误判超时,可以选择单独拉取,若还是有问题亦可以参考官方的解决方法:

github.com/coze-dev/co…

结尾换行符的方式不同,Windows电脑会出现这种情况,
方法一:切换WSL模式再docker compose
方法二:利用IDE把 docker\volumes\elasticsearch\setup_es.sh 行尾序列从CRLF换成LF 保存

具体实践

  1. 注册账号,访问 http://localhost:8888/sign 输入用户名、密码点击注册按钮。

  2. 配置模型:访问 http://localhost:8888/admin/#model-management 新增模型。(镜像版本需要大于等于 0.5.0)。

  3. 访问 Coze Studio http://localhost:8888