ComfyUI 性能优化配置速查:显存、算力与多 GPU
【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUI
ComfyUI 是节点式扩散模型绘图与后端工具。本文面向遇到生成慢、OOM 报错或显卡利用率低的用户,按显存档位给出性能优化配置,并说明多 GPU 的适用边界。
各显存档位配置速查
| 硬件档 | 典型显存 | 推荐配置要点 | 说明 |
|---|---|---|---|
| 入门档 | 4–6GB | 默认动态显存,不够再加--novram,配--reserve-vram 1 | 模型频繁换入换出,最慢但最省显存 |
| 中端档 | 8–10GB | 档位不动,重点选对注意力后端 | 多数工作流的平衡区 |
| 高性能档 | 12GB+ | --highvram,配合 fp16/bf16 精度 | 模型常驻显存,减少搬移 |
| 多 GPU | ≥2 张卡 | 每卡一实例,或走内置 multigpu 拆分 | 需满足下文适用条件 |
入门档(4–6GB):先保证能跑
默认情况下 ComfyUI 走动态显存(dynamic vram):模型用完自动卸载回内存,需要时再换回显存。显存越小,换入换出越频繁,速度越慢,但也不容易 OOM。若仍报显存不足,可加--novram(在--lowvram仍不够时使用),或用--reserve-vram 1给系统和浏览器预留 1GB。
注意:--lowvram、--novram、--highvram、--gpu-only、--cpu属于同一互斥组,只能选其一(见 comfy/cli_args.py)。
中端档(8–10GB):调注意力后端
这一档通常不用动显存档位,重点在注意力计算。xFormers 默认启用(可用--disable-xformers关闭);环境支持时也可改用--use-flash-attention或--use-sage-attention。这组参数(含--use-pytorch-cross-attention、--use-split-cross-attention、--use-quad-cross-attention)互斥,同时只能开一个。
精度方面,--fp16-unet与--bf16-unet互斥,--fp16-vae与--bf16-vae同理:fp16 更快,bf16 数值更稳,按模型支持情况选择。
高性能档(12GB+):让模型常驻
显存充足时用--highvram,让模型推理后仍留在显存里,避免反复搬移;再配 fp16 精度(如--fp16-unet)可进一步降占用。需要把全部组件都压在显存里时用--gpu-only;反过来想强制更激进地卸载到内存,则用--disable-smart-memory。各状态与切换逻辑集中在 comfy/model_management.py。
多 GPU 不好使时怎么办
先说明现状:ComfyUI 有 multigpu 模块,可把单个模型推理拆到多张卡上(见 comfy/multigpu.py),但前提是该模型加载器支持 multigpu 深拷贝。不支持的模型会静默退回单卡,所以“第二张卡没反应”不一定是配置错误。
更通用的做法是每卡跑一个独立实例,用环境变量指定卡、再换端口区分:
CUDA_VISIBLE_DEVICES=0 python main.py --port 8188
CUDA_VISIBLE_DEVICES=1 python main.py --port 8189
两个实例各占一张卡,适合把批量任务分到不同端口。它属于“实例级”隔离,不共享模型显存,也不是同一条工作流内的负载均衡。
常见错误对照
| 症状 | 可能原因 | 处理 |
|---|---|---|
| 显存不足 / OOM | 动态显存预留不够,或单模型就超显存 | 加--reserve-vram;仍不行用--novram;或降分辨率、降精度 |
| 切换模型变慢 | 模型被反复换入换出 | 用--highvram常驻,并确认动态显存正常 |
| 注意力优化没生效 | 与 xFormers 冲突,或该后端未安装 | 注意力参数组只能开一个,确认对应依赖已装 |
| 第二张卡不干活 | 模型加载器不支持 multigpu 拆分 | 退回单卡或改双实例,看运行日志确认 |
维护建议
显存档位决定“能不能跑”,注意力后端与精度决定“跑得快不快”,多卡则是容量问题而非速度问题。改动后以运行日志里的显存状态与模型加载记录为准,并跟进版本更新,因为默认策略(如动态显存)可能随版本变化。
【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUI
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考