ComfyUI + 并行智算云 部署详解

578 阅读5分钟

文章目录

  1. 准备工作

  2. 创建容器镜像

  3. 在并行智算云上部署

  4. 访问 ComfyUI

  5. 性能优化与监控

  6. 注意事项


详细内容

一、准备工作

在开始部署之前,需要完成以下准备工作:

1. 注册并行智算云账号

  1. 访问并行智算云官网并行智算云​编辑
  2. 点击“注册”按钮,填写相关信息(如邮箱、密码等),完成账号注册。
  3. 登录账号后,进入控制台。​编辑

2. 准备模型文件和插件

  1. 下载模型文件
    访问 ComfyUI 官方 GitHub 或相关资源网站,下载所需的模型文件(如 Stable Diffusion 模型)。

  2. 下载插件
    如果需要使用额外的插件,可以从 ComfyUI 插件市场 下载。

  3. 创建本地目录结构
    在本地创建以下目录结构,用于存放模型文件和插件:

    复制

    /ComfyUI/models
    /ComfyUI/custom_nodes
    

二、创建容器镜像

在本地环境中创建一个 Docker 镜像,用于在并行智算云上部署。

编写 Dockerfile

  1. 在本地创建一个包含以下内容的 Dockerfile

    dockerfile

    复制

    # 基于官方的 ComfyUI 镜像
    FROM ghcr.io/ai-dock/comfyui:v2-cuda-12.1.1-base-22.04-v0.2.7
    
    # 设置环境变量
    ENV MODEL_DIR=/opt/ComfyUI/models
    ENV NODE_DIR=/opt/ComfyUI/custom_nodes
    
    # 复制模型文件和插件到镜像中
    COPY models ${MODEL_DIR}
    COPY custom_nodes ${NODE_DIR}
    
    # 启动 ComfyUI
    CMD ["python", "main.py"]
    

构建镜像

  1. 在包含 Dockerfile 的目录中运行以下命令来构建镜像:

    bash

    复制

    docker build -t comfyui:custom .
    

测试镜像

  1. 在本地测试镜像是否正常运行:

    bash

    复制

    docker run -it --rm --gpus all -p 8188:8188 comfyui:custom
    

    如果一切正常,你将能够通过浏览器访问 http://localhost:8188

推送镜像到并行智算云容器仓库

  1. 登录并行智算云的容器仓库:

    bash

    复制

    docker login <your-registry-url>
    

  2. 将镜像打上并行智算云的仓库标签:

    bash

    复制

    docker tag comfyui:custom <your-registry-url>/comfyui:custom
    

  3. 推送镜像到并行智算云:

    bash

    复制

    docker push <your-registry-url>/comfyui:custom
    

三、在并行智算云上部署

创建容器服务

  1. 登录并行智算云控制台。​编辑

  2. 在控制台中找到“容器服务”或“容器管理”模块。​编辑

  3. 点击“创建服务”或“部署应用”按钮。​编辑

  4. 在创建服务页面中:

    • 镜像选择:选择你刚刚推送的镜像 <your-registry-url>/comfyui:custom

    • 资源配置

      • CPU:根据需求选择合适的 CPU 核心数。
      • 内存:建议分配 8GB 或更高。
      • GPU:选择支持 CUDA 的 GPU,例如 NVIDIA A100 或 H100,显存至少 12GB。
    • 端口映射

      • 内部端口:8188(ComfyUI 默认端口)。
      • 外部端口:可以设置为 8188 或其他可用端口。
    • 存储卷(可选):

      • 挂载存储卷以持久化模型文件和生成的图像。
      • 将存储卷挂载到 /opt/ComfyUI/models/opt/ComfyUI/output
  5. 点击“创建”或“部署”,等待服务启动完成。

配置服务

  1. 设置环境变量(可选):

    • 在服务配置中,添加以下环境变量:

      WEB_ENABLE_AUTH=false

  2. 设置持久化存储

    • 如果你挂载了存储卷,请确保模型文件和输出目录正确映射到存储卷。

四、访问 ComfyUI

  1. 部署完成后,通过并行智算云分配的外部 IP 地址访问 ComfyUI 的 WebUI:

    http://<your-instance-ip>:8188

  2. 在 WebUI 中输入文本描述并生成图像。

五、性能优化与监控

性能优化

  1. 启用显存优化参数

    • 在服务配置中添加环境变量:

      --force-fp16

  2. 减少步骤数和优化采样器

    • 在 ComfyUI 的 WebUI 中,调整生成参数以优化性能。

监控

  1. 使用并行智算云提供的监控工具(如 Prometheus 或 Grafana)监控 GPU 和 CPU 使用情况。
  2. 设置告警规则,以便在资源使用过高时及时调整配置。

六、注意事项

网络问题

  • 如果在下载模型文件时遇到网络问题,建议使用国内镜像源。

资源限制

  • 确保分配的 GPU 资源足够,避免显存不足导致服务崩溃。

版本兼容性

  • 确保 ComfyUI 和插件版本兼容。

通过以上步骤,你可以在并行智算云的容器化环境中高效地部署和使用 ComfyUI,实现高性能的 AI 绘画工作流。