AIMatrices Flux 是一款基于轻量级 AI 应用快速构建平台 AIMatrices 使用 Flux 模型开发的开文生图应用程序,支持提示词自动翻译功能。
功能特性
开箱即用
使用 Rust 编程语言开发,直接编译成二进制可执行文件,生成的可执行文件大小约为 20MB 左右,无需安装任何外部依赖库,极大地简化了部署过程,无需使用容器即可在多种操作系统(如 Windows、macOS、Linux)上运行。
广泛硬件平台支持
通过 Rust 的 FFI 技术调用高性能的 llama.cpp、 stable-diffusion.cpp 库,并以 Vulkan 作为后端进行模型推理,支持NVIDIA、AMD 、Intel等多种主流显卡,能够为模型推理提供显著的GPU加速效果,这种架构设计使得项目能够充分利用现代 GPU 的强大计算能力,同时保持良好的跨平台兼容性。
完全开源
AIMatrices Flux 是一个开源项目,开发者可以自由访问其代码,进行定制和扩展。
快速开始
安装
方式一:直接下载可执行文件
从 AIMatrices GitHub Release 下载 ai-matrices-flux对应系统版本,解压后即可使用
方式二:源码编译
编译前提条件是需要安装 Rust 环境
git clone https://github.com/guyoung/AIMatrices.git
## 编译 AIMatrices Flux 主程序
cd AIMatrices/packages/ai-matrices-flux
cagro build -- release
## 编译 AIMatrices WebAssembly 组件
cd AIMatrices/components/flux-handler-componentcargo
component build --release
下载模型文件
- llama-translate模型(提示词自动翻译)
- Flux.1 Dev模型
- vae 模型
- clip_l 模型
- t5xxl 模型
修改配置文件
打开 app_data 目录下 app-config.json 文件,修改模型路径。
[{ "id": "flux", "metadata": { "build": { }, "local_llm_models": { "local/llama-translate": "./app_data/ai-models/huggingface/dahara1/llama-translate-gguf/llama-translate.f16.Q4_K_M.gguf" }, "local_sd_models": { "stable-diffusion-v1-5": "./app_data/ai-models/huggingface/runwayml/stable-diffusion-v1-5/v1-5-pruned-emaonly.safetensors", "flux1-dev": "./app_data/ai-models/huggingface/city96/FLUX.1-dev-gguf/flux1-dev-Q4_0.gguf", "t5xxl": "./app_data/ai-models/huggingface/comfyanonymous/flux_text_encoders/t5xxl_fp8_e4m3fn.safetensors", "vae": "./app_data/ai-models/huggingface/black-forest-labs/FLUX.1-dev/ae.safetensors", "clip_l": "./app_data/ai-models/huggingface/comfyanonymous/flux_text_encoders/clip_l.safetensors" } }, "source": { "content_type": "application/wasm", "source": "./app_data/components/ai_matrices_flux_handler_component.wasm" } }, { "id": "static-file", "metadata": { "build": {} }, "source": { "content_type": "application/wasm", "source": "./app_data/components/ai_matrices_static_file_handler_component.wasm" }}]
运行应用
Windows 命令行运行
ai-matrices-flux-windows-amd64.exe
Linux 命令行运行
./ai-matrices-flux-linux-amd64
命令行参数:
- -i,--ip <port_number>: 指定服务器监听的 IP 地址,默认为 127.0.0.0。
-
- example: --ip 0.0.0.0
- -p,--port <port_number>: 指定服务器监听的端口号,默认为 21500。
-
- example: --port 3000
- --appdir : 指定工作目录,默认值为 ./app_data
-
- example:--app-dir ./dir1
- --appconfig : 指定应用配置文件,默认值为 ./app_data/app-config.json
-
- example:--appconfig ./dir1/config.json
- --user : 指定登录用户名,默认值为空
-
- example:--user admin
- --pass : 指定登录用户密码,默认值为空
-
- example:--pass adminhttps://mp.weixin.qq.com/s/1BnrTi2W8hYJly5gnLn5bg
- --version: 打印系统版本号并退出。
- --help: 查看命令的使用帮助和参数说明。
ai-matrices-deepseek-flux-amd64.exe -i 0.0.0.0 -p 8080 --user admin -- pass admin
其它
AIMatrices Flux 前端程序使用 DeepSeek 生成。