☰
【最新开源】4.51 倍提速!GroundAnything大模型用扩散实现全任务视觉定位
2026/10/14 18:30:28 网站建设 项目流程

论文《GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed》由小鹏、北大、港大、普林斯顿等机构联合发布,是一套4B参数统一视觉定位(Visual Grounding)基础模型,项目已开源权重、代码。

视觉定位:输入图片+文字指令,模型输出目标物体的框、坐标点、文字,完成目标检测、指代定位、OCR识别、GUI界面点击、文档布局解析等任务。

一、核心痛点

传统视觉大模型大多采用自回归AR串行解码:按顺序一个token接一个token输出坐标和文本。

  • 缺点:物体多、输出内容长的时候,推理速度很慢;
  • 现有加速方案MTP多token预测,并行生成质量有限,密集场景容易出错。
  • 扩散模型擅长并行生成,但过去大多只做单一任务,缺少能覆盖全套视觉定位任务的通用基础模型。

    核心思想:把视觉定位看作「视觉证据提取」。图片里物体、位置、空间关系不需要严格从左到右的生成顺序,可以双向扩散并行预测。

模型提供两个版本:

  1. GroundAnything‑VLM:纯自回归AR版本,精度上限更高;
  2. GroundAnything:双向扩散DLM并行解码版本,追求速度与精度平衡,支持并行块去噪。

二、关键技术方案

  1. 模型架构
    基于MoonViT‑V2视觉编码器 + Qwen3‑4B语言解码器;设计统一词汇表,包含1000个量化坐标token,用一套输出格式统一:框、点、OCR文本、GUI点击指令。

  2. 训练四阶段流水线

① 基础多模态预训练;② 坐标对齐SFT监督微调;③AR‑to‑Diffusion转换:从已经训好的自回归模型直接转扩散模型,同时用AR损失+扩散损失联合训练,不需要从头训扩散;④ GRPO强化学习后训练,针对框、点、OCR设计专属奖励函数,优化定位精度。

配套自研数据引擎,融合多源标注,校验标注有效性,迭代生成高质量训练数据。

  1. 并行推理解码策略
  • 熵引导解码:评估token不确定性,低熵高置信度直接提交输出,迭代去噪;
  • 自投机解码Self‑speculative:扩散做草稿并行生成,AR做校验修正;相比原版AR速度提升4.51倍,仅损失0.74个点F1mIoU指标,是论文主打高速模式;
  • 工程层面:SGLang、CUDA Graph、FP8量化,进一步压榨推理速度。
  1. 对比基线:和MTP多token预测对比,双向扩散生成的草稿提案质量更高,有效降低每个有效token的推理耗时;但不是所有场景都占优,短任务场景MTP也有优势。

三、实验评测结果

测试覆盖30套基准数据集,44个对比基线,覆盖11大类任务:通用检测、长尾物体、密集小目标、指代目标检测、物体点定位、机器人空间指向、GUI界面定位、文档OCR、文档布局、视觉提示匹配。

模型 / 解码方式参数量关键指标备注
GPT-6 Astra(商用)未公开30 基准整体 71.35%商业闭源
GroundAnything-VLM4B30 基准整体 72.42%同尺寸新 SOTA
LocateAnything(此前最快 SOTA)—53.32%(快速向)MTP 架构
GroundAnything(熵引导解码)4B平均 61.75%比上者高 8.4 点
+ 自推测 self-speculative4BCOCO F1mIoU 仅降 0.74 点提速 4.51×

  1. AR版本 GroundAnything‑VLM:同等4B级别模型中综合SOTA,综合得分72.42%,性能可以和GPT‑6 Astra掰手腕。
  2. 扩散并行版GroundAnything:熵引导纯扩散解码平均61.75%,超过同规模以往AR模型基线;GUI任务表现突出,但在OCR、文档布局任务上相比AR版本有明显性能差距。
  3. 优势场景:密集拥挤画面、GUI界面点击、指代定位;短板:部分OCR、文档布局、极小物体定位精度还有提升空间。
  4. 输出效率:坐标序列化非常紧凑,COCO平均7.6个token描述一个框,对比旧方案SEED1.5‑VL的148.8 token,token数量大幅缩减,输出更长物体列表时代价增长更小。

四、潜在落地应用场景

  • 机器人抓取 / 操作:自然语言指挥"拿那个红色的杯子"。
  • AR / 标注工具:实时圈选、分割。
  • 智能相册 / 审核:一句话检索"去年海边那张有狗的照片"。
  • 自动驾驶感知:用指令快速定位特定目标。

五、主要局限

  1. 扩散并行解码和AR版本存在性能鸿沟,尤其OCR、文档布局下降比较明显;
  2. 微小物体的高精度边界定位依然是短板;
  3. 主要针对图片静态定位,视频时序跟踪能力尚未验证;

六、结论

GroundAnything 证明了一件事:双向块掩码扩散,可以实现通用、多任务视觉定位,做到并行高速推理。4B 的小体量让它有实际部署价值,也探索了多种解码策略说明"并行解码要真正落地,还得靠推理侧的渐进优化"。

开源地址:
项目页:https://groundingpi.github.io/groundanything
代码:https://github.com/groundingpi/GroundAnything

论文与源码可自行获取:

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询