过去半年,我几乎把所有能搜到的“AI绘画算力”相关讨论都看了一遍,也把自己的钱和时间砸进去试了一圈:先是本地自购了一张24GB显存的显卡,每天下班后就对着机箱折腾;中间因为出差多、算力需求不稳定,改用云GPU按小时租;最近两三个月,又开始尝试共享算力,用来跑那些不急着要结果的大批量测试。说实话,这三条路没有哪一条是绝对赢家,但每一条的坑和甜头,我都算是摸清了。
这篇文章就把我半年的实测过程完整摊开:自购显卡怎么选型号、显存和算力到底怎么权衡;云GPU平台怎么挑、怎么避免“买完卡开机就排队”的坑;共享算力便宜到什么程度、又能坑到什么程度。文章最后会给出一个基于你实际使用时长和预算的决策清单。如果你是刚刚开始玩AI绘画的新手,或者已经在考虑升级显卡的老手,都应该能从里面找到至少一个能直接用上的结论。
1. 先说结论:三条路怎么选,看的是你的“使用形状”
1.1 我半年到底在测什么场景
我提到的“使用形状”,指的是你每天、每周到底有多少实际的出图需求,集中在什么时间。拿我自己来说,AI绘画已经是我内容创作流程里正式的组成部分,不是随便玩两下。测试期间我主力跑的是Stable Diffusion WebUI和ComfyUI两个框架,任务包括文生图、图生图、局部重绘、ControlNet姿态控制、SDXL大图测试,偶尔还会跑LoRA训练。
这段时间我刻意做了一件很“折腾”的事:同样一批图和同样的参数,分别在三套方案上反复跑,记录每张图的生成时间、显卡利用率和实际花费。后来我把任务分成三类——实时交互调整出图、批量素材产出、LoRA训练。你会发现,这三类任务对算力资源的诉求完全不同,所以不存在一个方案能同时满足所有场景,这也是我最终采用混合方案的根本原因。
1.2 一句话类比:自购、云GPU、共享算力的本质区别
为了让你快速理解,我用出行来类比:
- 自购显卡:相当于买了一辆自己的私家车。一次性投入最大,但用车自由,随时能开,不怕高峰和涨价。代价是你得操心保养、保险、停车费,也就是驱动、散热、电费和维护成本。
- 云GPU:相当于租车。每次用之前下单,用完还车。没有购车压力,还能体验不同档次的车,但必须按时间和里程付费,高峰期还可能没车可租。
- 共享算力:相当于拼车或者坐公交。价格最便宜,但路线、停靠点、等待时间都不完全由你控制,每天能跑多少图,得看运气。
这个类比基本能解释我后面所有的实测数据。这三条路的成本结构、稳定性、体验差异,本质上就是这三种交通方式之间的差异。你每天出门多远、什么时候出门、愿不愿意等,决定了你该选哪种方式,而不是单纯看哪个“看起来更高级”。
2. 自购显卡:本地算力到底香不香
2.1 显卡怎么挑:显存、算力、带宽一个都不能少
很多新手选显卡只看显存,觉得“24G肯定比12G强”。实际不是这样,AI绘画出图速度主要由显卡的浮点算力决定,而多大规模的画面、能不能叠加ControlNet、会不会爆显存,则由显存大小决定,两者要一起看。常见的误区是拿一张老卡Titan X(12G)和RTX 4070(12G)对比,虽然显存一样,但4070的Tensor核心、光栅单元和显存带宽要强得多,出图速度可能差2到3倍。
我的选卡标准是三步:
- 第一步,先定显存门槛。如果你只想跑SD 1.5和普通二次元模型,8G可以勉强,6G会有点吃力;如果跑SDXL,我建议至少12G;如果还想跑SD3.5 Medium或者要一边跑图一边开ControlNet加LoRA,24G是最稳妥的。显存的计算很简单:模型文件尺寸(fp16)加图像缓存加插件开销加系统预留。SD 1.5的fp16权重约4GB,SDXL约7GB,SD3.5 Medium权重在5GB左右,SD3.5 Large则要到13GB以上,如果再加上VAE和ControlNet,通常要预留模型体积的30%到50%,所以24G能让你在跑大图时不会捉襟见肘。
- 第二步,再看算力。显卡的FP16算力可以从显卡天梯图查到,比如RTX 3060大约51 TFLOPS,RTX 4090大约330 TFLOPS,差距是数量级的。更直观的方法是看实际出图速度:同一个512乘512的SD 1.5模型,3060大约5到8秒一张,4090大约1到2秒一张。速度差距会直接决定你是“改一次参数等半天”还是“唰唰唰出几十张再挑”。
- 第三步,查带宽和位宽。显存带宽影响图片解码和模型加载速度,训练时模型权重进出显存非常频繁,带宽低会明显拖后腿。比如3060带宽360GB/s左右,而3080带宽760GB/s左右,同样的12G显存,后者在训练场景下的效率会高不少。
我看过很多新手拿笔记本显卡跑ComfyUI,比如笔记本RTX 3050 4G,跑一张512的图都要等半天还容易爆显存。这种情况下即使价格便宜我也不建议买,预算不足也要优先考虑16G或24G的中端卡,比如RTX 4060 Ti 16G二手、RTX 4070 Ti Super 16G这类。
2.2 本地部署实操:从整合包到ComfyUI
本地部署对新手最友好的路是秋叶整合包。它把Python、PyTorch、CUDA、WebUI底层环境一次性打包好了,你只需要解压、双击启动器,在界面里勾选启动参数,就能进入WebUI。我自己的建议是:新手第一周先用它跑通流程,重点感受不同模型、采样器、步数对出图效果的影响,别一上来就碰命令行安装,容易劝退。
等到你开始接触ComfyUI,再去理解背后的流程引擎会更顺。ComfyUI因为是用节点图串流程,工作流自由度很高,对显存调优也更细致,比如可以在关键节点上用fp16或者fp8来降低显存占用。部署方式可以选择在整合包内集成,也可以独立安装。配置上我建议在启动参数里加上--xformers(或--opt-sdp-attention),能明显降低注意力层的显存占用。如果你的显卡经常爆显存,还可以加--medvram,不过副作用是第一张图生成会慢很多,因为要在CPU和GPU之间反复搬运模型。
模型下载这块,推荐使用国内镜像,比如ModelScope社区和HuggingFace的国内镜像站,省时省力。模型文件一般放到models/Stable-diffusion目录,VAE放到models/Vae,LoRA放到models/Lora,路径不对的话WebUI里不显示,这算是最常见的“我下了模型为什么找不到”类问题。
2.3 本地显卡踩坑实录:驱动、爆显存、利用率上不去
本地算力最大的优势是自由,但坑全藏在细节里。我随手列几个我真实碰到过的:
- 驱动装不上或者显示错误43。设备管理器里出现黄色感叹号,
nvidia-smi也调用不了。我排查了几天,最后发现是Windows Update自动把驱动覆盖成了错误版本。解决办法是先用DDU在安全模式下彻底卸载,再去NVIDIA官网下载对应型号的Studio版驱动,安装时选择“自定义安装”,勾选“执行清洁安装”。如果笔记本有双显卡,记得在NVIDIA控制面板里把AI绘画程序设置为“高性能GPU”,否则可能一直在用核显跑图。 - 硬件正常但系统崩溃,事件查看器里一直报
nvlddmkm错误。这个并不一定是显卡坏了,更多是驱动版本与CUDA或PyTorch不兼容。我的处理方式很简单:把显卡驱动回退到上一版,或者升级到最新稳定版本,看哪个版本稳定就固定住,不随手更新。 - ComfyUI或WebUI显卡利用率低。很多人一看任务管理器里GPU利用率只有20%,就以为是显卡坏了。实际上,如果显存占用已经很接近上限,而利用率不高,说明瓶颈在CPU或数据搬运。比如第一次生成时模型要加载,速度慢很正常;如果CPU占用也满了,就要检查是否开了太多插件,或者图片解码花太多时间。可以用命令行
nvidia-smi -l 1实时看,也可以开任务管理器的“GPU”面板,对比3D、Copy、Video Decode这几个子项。
3. 云GPU:按需租算力,到底值不值
3.1 云GPU平台怎么选:别只看显存
市面上的云GPU平台很多,常见的有AutoDL、恒源云、青椒云、矩池云等。第一次用的人最容易犯的错误,是被“A100 80G”这种大显存吸引,其实对AI绘画来说,A100的性价比不一定比RTX 4090高。A100强在高精度训练和大规模并行,而Stable Diffusion这种生成任务更吃单卡Tensor Core性能,RTX 4090在多数推理场景下出图速度反而比A100快,价格还便宜得多。
我个人选择云GPU平台,会按这个顺序判断:
- 计费规则是否透明。很多平台写着“按小时计费”,但关机后存储依然收费。有些平台会区分“关机不保留数据”和“关机保留数据”两种状态,价格差很多,一定要看清楚。
- 实例启动速度。有的平台选好配置后要等几分钟才能出IP,有的平台需要人工审核,太影响体验。我会优先选那些有预置镜像、点开就能用的平台。
- 排队情况。热词里“恒源云无空闲显卡”就是典型的高峰期排队问题。如果你经常在晚上8点到12点算图,选冷门时间段排队会好很多;有些平台支持“定时开机”,也可以预设任务在凌晨自动跑。
- 网络和端口映射。能否通过自定义端口访问WebUI?很多平台有防火墙限制,不提前搞清楚,模型都拉不下来。
3.2 实操:从创建实例到跑通Stable Diffusion
以国内一个典型的云GPU平台为例,完整流程大概是:
- 注册实名认证,充值,一般有最低充值要求。
- 在控制台选择“GPU实例”,选择RTX 4090或按需的型号,选择PyTorch镜像。
- 启动实例,等待分配IP和端口。
- 用SSH工具连接,或者使用平台自带的JupyterLab。
- 在命令行里启动WebUI。一般平台镜像自带Miniconda和PyTorch,但WebUI主体还是需要自己克隆或者从压缩包上传。如果你用的是整合包,可以先传到网盘,再在实例里下载。
- 启动后用SSH端口转发或平台提供的自定义域名访问WebUI。
- 出图完成后,把结果打包下载回本地,或者先传到对象存储或网盘。
- 关机释放实例。
这里有个特别提醒:很多平台的“关机”不等于“释放”。如果你只是临时关一下,第二天还要接着用,那叫“关机保留数据”,通常按存储费用收费,每GB每天零点几元,积少成多也很可观。如果要彻底停止计费,必须销毁实例,但数据会清空,需要提前备份。我见过很多新手因为没搞清楚这个,白白多付了几十块钱。
3.3 云GPU的费用和隐藏坑
以我当时用的RTX 4090实例举例,价格大约每小时2.5元到3元,一台实例默认给50G系统盘。如果每天用6小时,一个月按20天算,大概是300到360元。相比买一张4090的一次性1.6万投入,看起来便宜,但这是在你真的只用那6小时的前提下。如果实际使用超过10小时每天,月成本可能超过600元,那一年就接近7200元,这时候本地卡就更有优势了。
隐藏坑还有几个:
- 数据迁移慢。很多平台的上传带宽有限,一个10GB的模型压缩包可能传半小时。解决办法是选择离你近的机房,或者用平台提供的“数据填充”功能先拉取开源模型,再覆盖你想要的模型。
- 端口冲突。多个实例都默认占用8888端口时,访问会串台。配置端口映射时一定要指定自己的端口。
- 平台经营风险。预充值几千元在小平台,结果平台下线或者服务缩水,钱很难追回来。所以第一次使用尽量小金额充值,或者选支持按量计费的平台。
4. 共享算力:便宜是真便宜,坑也是真多
4.1 共享算力到底是什么形态
共享算力这个词在不同平台含义不太一样。有些是平台把闲置的显卡集中调度,有些是平台把一台机器拆成多份卖给多个用户,比如一块A100 80G切割成4个20G的实例,每个用户用一部分。还有一种是整个进程共享CPU和带宽,给你1/4的核和1/4的显存额度,但物理卡还是同一张。
我测试的共享算力主要是后两种:显存切割和整机分时共享。它们的共同特点是价格便宜,普遍只有独享云GPU的40%到60%,但性能不稳定,因为邻居可能会抢占CPU、带宽和显存带宽。这个模式有点像大学时的公共洗衣机:便宜、随时能用,但永远不知道上一个人洗了什么,洗得干不干净全看运气。
4.2 实测结果:同样的任务,速度波动有多大
我专门做过一次对照测试:同一张图、同一个采样步数、同一个SDXL模型,分别在独享4090和共享4090(显存切割)上跑。独享时平均约12秒一张,共享时平均约18秒一张,但波动非常大,快的时候15秒,慢的时候要40秒。系统CPU占用率经常跑到80%以上,因为同物理机的其他用户在做预处理。这种波动对批量任务还可以忍,如果是实时交互调参,体验就很糟糕了。
还有一个问题是排队。晚上8点到11点,共享实例也可能出现“无空闲显卡”的提示,并不总是随到随用。平台可能会让你排队等待,或者强制你选择其他时间段。热词里“恒源云无空闲显卡解决方法”其实就是用户总结出的套路:提前一天预约、选冷门城市节点、避开晚高峰。
4.3 什么情况下共享算力值得用
经过实测,我认为共享算力适合四类人:
- 预算极其有限的学生或新人,想用最低成本体验SDXL。
- 跑大批量测试任务,比如批量生成100张不同风格的底图,不急着要结果。
- 平台有闲时特惠活动,凌晨单价能压到0.5元每小时以下。
- 临时测试某个模型或工作流,跑一次就够。
不适合的人也很明确:商业交付、客户急单、需要稳定出图速度的团队,以及需要长期运行LoRA训练的用户。共享算力在训练场景下的问题更明显,因为训练需要频繁读取权重和梯度,邻居一抢带宽,训练速度直接砍半,甚至导致卡顿重启。
5. 三条路的完整成本账与决策清单
5.1 一张表看清单次投入和月度成本
我把我半年累计的真实花费整理如下。注意这是国内行情,不同地区和平台会有差异,但比例关系有一定参考价值。
| 方案 | 硬件或预付成本 | 月运行成本(每天4到6小时) | 主要额外支出 | 完全停止后的成本 |
|---|---|---|---|---|
| 自购显卡 RTX 4090 | 约16000元 | 电费约60到100元 | 散热、折旧、偶尔维修 | 仍需承担电费和硬件闲置损失 |
| 自购显卡 RTX 4060 Ti 16G | 约4500元 | 电费约30到60元 | 同样有折旧 | 同上 |
| 云GPU独享 4090 | 0元 | 600到800元 | 存储费、上传流量、排队时间 | 释放实例后为0 |
| 共享算力 4090切割 | 0元 | 300到500元 | 速度波动、排队等待 | 停止使用后为0 |
这里最关键的一点是:自购显卡的月成本虽然低,但它的“买入”是沉没成本,你一旦不用了,二手折价和闲置损耗也是实打实亏的。所以不能只看月成本,要看“总使用时长”。
5.2 时间到底值多少钱
我算过自己一笔账:每次从云GPU平台上把生成好的大图拉回本地,如果一张4K大图有20MB,传10张就是200MB,加上启动实例和部署环境,整个过程至少要花10到20分钟。如果每天重复一次,每月浪费8小时。假设时薪50元,这些时间价值400元。而自购本地卡完全省掉了这部分时间,因为结果直接在本地。
共享算力更夸张,我在排队上浪费的时间有时候比运行时间还长。所以如果你的时间很值钱,选择方案的优先级应该是自购本地卡大于云GPU独享,最后才是共享算力。反过来,如果时间不值钱、预算有限,优先顺序可以完全反过来。
5.3 给出一个可直接套用的决策公式
我最后给自己的选择标准是这样一句话:算力总成本等于显性花费加时间成本加风险成本,风险成本包括硬件折旧、平台波动、数据安全。把每种方案按这个公式算一遍,再结合自己的使用频率,答案就很清晰了。
简单给一个套用示例:
- 如果你每周稳定出图超过20小时,光云GPU每月就要上千元,半年下来足够买一张中端卡,那就直接自购。
- 如果你只是偶尔做几张壁纸、头像,一周用不到5小时,云GPU按小时租或共享算力更划算,别跟风买显卡。
- 如果你既要本地交互又要跑批量,那就“本地为主加云端为辅”的混合模式,这也是我最终采用的方案。
6. 不同人群的最优组合方案
6.1 新手入门:先租后买,别一上来就掏钱
我的建议很直接:新手先别买显卡,用云GPU的按小时计费模式,花几十块钱把你常用的WebUI和ComfyUI流程跑熟。你会在过程中发现自己真实的算力需求,是喜欢SDXL大图、需要经常跑LoRA,还是偶尔画头图就够了。等确定要长期用,再考虑买卡。
预算3000以内的新手,可以考虑二手RTX 3060 12G。它虽然算力一般,但12G显存对SD 1.5和SDXL都够用,二手价格也不高,玩腻了再出掉损失也不大。预算5000左右就上RTX 4060 Ti 16G,16G显存让SDXL的舒适度提升一大截,能耗也比较低。只有当你打算训练LoRA并把AI绘画当作核心生产力工具时,才值得咬牙上24G显存的中高端卡,比如RTX 3090二手或RTX 4090。
6.2 自由职业与小型工作室:本地为主,云端兜底
如果你靠AI绘画接单,或者每天必须稳定出图,我强烈建议以本地卡为主。自由职业者最怕的就是平台突然无法使用、排队等不起、或者商业项目数据隐私问题。本地卡能保证你的核心流程不受外部因素影响。
但也不要完全放弃云GPU。遇到批量大图渲染、多任务并行、需要连跑一整晚的高强度项目时,本地卡算力可能不够,而且24小时满负荷对散热和寿命也是考验。这段时间可以把任务丢到云端跑,本地继续做别的。我目前就是这种组合:本地一张24G显存的中高端卡负责交互调参和LoRA训练,云端按需租4090跑批量渲染和大型ControlNet测试。
6.3 企业级本地大模型部署:关注算力卡类型而非游戏卡
热词里有“企业搭建本地大模型”,这里单独提醒一下。企业采购时不要只看游戏显卡,除非是个人工作室小规模尝试。对于需要部署70B以上参数量模型或者持续高频推理的场景,应该考虑专业推理卡,比如L20、A10、A100、L40S等,它们有更大的显存和更好的虚拟化支持,带ECC内存,长时间稳定运行不容易出错。
但反过来,如果企业只是部署一个7B或者13B的开源模型,用普通RTX 4090反而性价比更高,因为4090单卡推理速度很快,部署成本远低于A100。热词里“L20显卡最适合部署什么模型”的答案其实就在这:L20有48G显存,适合部署需要大显存的70B量化模型或多模型并发,但它并不适合跑Stable Diffusion这种图像生成,因为单卡算力一般,价格还贵。
7. 常见问题排查与避坑技巧实录
7.1 显卡能被识别但驱动装不上
这类问题在Windows上特别多。症状是设备管理器能看到显卡名称,但点击更新驱动总是失败,或者安装到最后提示失败。我先给一个排查顺序:
- 用DDU彻底卸载旧驱动,重启后再安装新驱动。
- 去官网下载Studio驱动,不要用Windows自动搜索的驱动。
- 如果安装时提示“无法找到兼容硬件”,检查Windows系统版本是否过老,比如某些新驱动不支持Win10早期版本。
- 如果是AMD显卡,别指望装NVIDIA的CUDA,两者硬件的计算架构不同。热词里提到AMD能“原生跑CUDA”,这实际是通过第三方兼容层实现的,性能和稳定性都有折扣。如果你只有AMD显卡,可以尝试ROCm或者ZLUDA,但我不建议入门用户折腾。
7.2 命令行查看显卡温度与占用
Windows下打开PowerShell,输入nvidia-smi就能看到当前显卡名称、显存占用、温度、功率和利用率。如果想实时刷新,可以用nvidia-smi -l 2,每2秒刷新一次。Linux下也可以装gpustat,一条命令把所有显卡的状态展示出来,很直观。
做显卡天梯对比的时候,我习惯同时看三组数:显存容量、FP16算力、显存带宽,不只看显存一个指标。比如同样标着12G,老卡和新卡的算力可能差出三倍,只看显存买卡一定踩坑。
7.3 ComfyUI出图慢或显卡利用率低
如果你发现ComfyUI生成图片时显卡利用率上不去,大部分情况不是显卡坏了,而是流程里有瓶颈。最典型的三个原因:
- 第一次生成要加载模型,从硬盘读权重进显存,这个阶段GPU占用很低,属于正常现象。
- 图片分辨率太小或模型本身很小,计算量不足以塞满整个显卡。建议调大batch size或分辨率再做测试。
- CPU处理不过来。比如ControlNet的解码、图片后处理、视频解码都在CPU上跑,CPU占用满了GPU就等数据。可以关掉无关程序,换一个性能更好的CPU,或者把部分预处理换到GPU执行,ComfyUI里很多节点有device参数,改成cuda即可。
7.4 显存不够怎么办
显存不够的直接表现是报CUDA out of memory,后面跟着一行类似“Tried to allocate 2.00 GiB (GPU 0; 24.00 GiB total capacity)”的信息。解决办法按优先级:
- 用Tiled VAE插件,把大图切成小块混合变分自编码器处理,能省1到2GB显存。
- 降低batch size,把2改成1。
- 开启fp16或BF16,很多WebUI默认就是fp16,但ComfyUI有些节点需要用fp8或快速fp16转换来省显存。
- 暂时关闭ControlNet,或者用低显存模式。
- 如果这些做完还是爆,说明显存确实不够,这是硬件下限问题,而不是优化问题。这时候老老实实租云GPU吧,别硬扛。
7.5 平台显示“该时段无空闲显卡”
这就是云GPU和共享算力最常见的排队提示。我的经验是:
- 换一个冷门时段,比如上午10点或凌晨2点,比晚高峰容易很多。
- 选择冷门城市节点。同样型号的显卡,热门节点永远缺货。
- 提前创建一个预约实例,经常可以锁定时段。
- 平台若支持“无卡模式”或“定时任务”,可以先把数据传到磁盘,等有空闲时自动开机跑任务。
到这里,我三个方案的真实体验、成本账和排查技巧基本都讲完了。最后说一个我现在还在用的组合:本地一张24G显存的中高端卡处理交互调参和LoRA训练,云GPU在高峰期批量跑任务,共享算力只用来跑不着急的大批量测试。这套组合用到现在,整体效率比我单用任何一条路都高。如果你的预算有限,哪怕只选其中一条路,我建议先云GPU起步,跑熟了再考虑买卡;至于买什么卡,量力而行,别为了“一步到位”背上不必要的压力。
最后再补一个小提醒:如果你所在的地方电力供应不太稳定,或者经常有断电风险,自购显卡的体验会大打折扣,这种环境下反而更适合云GPU。以上就是我半年真实踩坑记录中最核心的内容,拿走就能直接用。