论文《GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed》由小鹏、北大、港大、普林斯顿等机构联合发布,是一套4B参数统一视觉定位(Visual Grounding)基础模型,项目已开源权重、代码。
视觉定位:输入图片+文字指令,模型输出目标物体的框、坐标点、文字,完成目标检测、指代定位、OCR识别、GUI界面点击、文档布局解析等任务。
一、核心痛点
传统视觉大模型大多采用自回归AR串行解码:按顺序一个token接一个token输出坐标和文本。
- 缺点:物体多、输出内容长的时候,推理速度很慢;
- 现有加速方案MTP多token预测,并行生成质量有限,密集场景容易出错。
- 扩散模型擅长并行生成,但过去大多只做单一任务,缺少能覆盖全套视觉定位任务的通用基础模型。
核心思想:把视觉定位看作「视觉证据提取」。图片里物体、位置、空间关系不需要严格从左到右的生成顺序,可以双向扩散并行预测。
模型提供两个版本:
- GroundAnything‑VLM:纯自回归AR版本,精度上限更高;
- GroundAnything:双向扩散DLM并行解码版本,追求速度与精度平衡,支持并行块去噪。
二、关键技术方案
模型架构
基于MoonViT‑V2视觉编码器 + Qwen3‑4B语言解码器;设计统一词汇表,包含1000个量化坐标token,用一套输出格式统一:框、点、OCR文本、GUI点击指令。训练四阶段流水线
① 基础多模态预训练;② 坐标对齐SFT监督微调;③AR‑to‑Diffusion转换:从已经训好的自回归模型直接转扩散模型,同时用AR损失+扩散损失联合训练,不需要从头训扩散;④ GRPO强化学习后训练,针对框、点、OCR设计专属奖励函数,优化定位精度。
配套自研数据引擎,融合多源标注,校验标注有效性,迭代生成高质量训练数据。
- 并行推理解码策略
- 熵引导解码:评估token不确定性,低熵高置信度直接提交输出,迭代去噪;
- 自投机解码Self‑speculative:扩散做草稿并行生成,AR做校验修正;相比原版AR速度提升4.51倍,仅损失0.74个点F1mIoU指标,是论文主打高速模式;
- 工程层面:SGLang、CUDA Graph、FP8量化,进一步压榨推理速度。
- 对比基线:和MTP多token预测对比,双向扩散生成的草稿提案质量更高,有效降低每个有效token的推理耗时;但不是所有场景都占优,短任务场景MTP也有优势。
三、实验评测结果
测试覆盖30套基准数据集,44个对比基线,覆盖11大类任务:通用检测、长尾物体、密集小目标、指代目标检测、物体点定位、机器人空间指向、GUI界面定位、文档OCR、文档布局、视觉提示匹配。
| 模型 / 解码方式 | 参数量 | 关键指标 | 备注 |
|---|---|---|---|
| GPT-6 Astra(商用) | 未公开 | 30 基准整体 71.35% | 商业闭源 |
| GroundAnything-VLM | 4B | 30 基准整体 72.42% | 同尺寸新 SOTA |
| LocateAnything(此前最快 SOTA) | — | 53.32%(快速向) | MTP 架构 |
| GroundAnything(熵引导解码) | 4B | 平均 61.75% | 比上者高 8.4 点 |
| + 自推测 self-speculative | 4B | COCO F1mIoU 仅降 0.74 点 | 提速 4.51× |
- AR版本 GroundAnything‑VLM:同等4B级别模型中综合SOTA,综合得分72.42%,性能可以和GPT‑6 Astra掰手腕。
- 扩散并行版GroundAnything:熵引导纯扩散解码平均61.75%,超过同规模以往AR模型基线;GUI任务表现突出,但在OCR、文档布局任务上相比AR版本有明显性能差距。
- 优势场景:密集拥挤画面、GUI界面点击、指代定位;短板:部分OCR、文档布局、极小物体定位精度还有提升空间。
- 输出效率:坐标序列化非常紧凑,COCO平均7.6个token描述一个框,对比旧方案SEED1.5‑VL的148.8 token,token数量大幅缩减,输出更长物体列表时代价增长更小。
四、潜在落地应用场景
- 机器人抓取 / 操作:自然语言指挥"拿那个红色的杯子"。
- AR / 标注工具:实时圈选、分割。
- 智能相册 / 审核:一句话检索"去年海边那张有狗的照片"。
- 自动驾驶感知:用指令快速定位特定目标。
五、主要局限
- 扩散并行解码和AR版本存在性能鸿沟,尤其OCR、文档布局下降比较明显;
- 微小物体的高精度边界定位依然是短板;
- 主要针对图片静态定位,视频时序跟踪能力尚未验证;
六、结论
GroundAnything 证明了一件事:双向块掩码扩散,可以实现通用、多任务视觉定位,做到并行高速推理。4B 的小体量让它有实际部署价值,也探索了多种解码策略说明"并行解码要真正落地,还得靠推理侧的渐进优化"。
开源地址:
项目页:https://groundingpi.github.io/groundanything
代码:https://github.com/groundingpi/GroundAnything
论文与源码可自行获取: