- 大模型
- 基础模型
- 多模态
- AI Agent
- 科研
【免费下载链接】Sage-A1.5
Sage-A1.5 是上海AI实验室开源的35B MoE 智能体模型,面向长周期科学问题求解而生。它不仅会做题,更学会了"组织工作"——通过子智能体并行编排、自我验证和开放式科研探索三大能力,在 XBench-DS、IFBench、PinchBench 等7 项基准上拿下 SOTA,GAIA 更以 95.1 分超过所有参比的大型前沿模型。本文带你完整看懂它的架构、能力与部署方法。
一、Sage-A1.5 是什么?📌
Sage-A1.5 是上海AI实验室 A1 系列的升级版本,定位为智能体(Agentic)基础模型。与"一问一答"的聊天模型不同,它的设计目标是:
- 长程任务执行:能分解复杂目标、规划步骤、调用工具,并基于中间结果动态调整策略
- 科学问题求解:覆盖工具整合的科学推理、专业领域问答与探索性研究
- 指令遵循:精准执行多约束、跨领域的复杂指令
模型权重以 Hugging Face Transformers 格式开源,兼容 vLLM、SGLang 等主流推理框架,Apache-2.0 协议可自由使用(详见 README.md)。
二、架构揭秘:小模型跑出大能力的三个关键 🔍
从 config.json 可以看出,Sage-A1.5 采用了当前最先进的"MoE + 混合注意力"组合拳:
| 关键参数 | 数值 | 对用户的意义 |
|---|---|---|
| 总参数规模 | 35B(bf16 约 72 GB,14 分片) | 单卡/少卡可部署 |
| 专家数 / 每 token 激活 | 256 / 8 | 稀疏激活,推理成本远低于稠密大模型 |
| 隐藏层数 | 40 | 每层含共享专家 + 256 个路由专家 |
| 注意力结构 | 3 层线性注意力 + 1 层全注意力循环 | 长上下文成本大幅下降 |
| 原生上下文 | 256K(YaRN 可扩展至 512K) | 超长文档/多轮科研对话 |
| 多模态 | 文本 + 图像 + 视频(27 层视觉编码器) | 支持文档、截图、视频输入 |
| 加速推理 | MTP 多 token 预测(1 层) | 配合投机解码显著提升生成速度 |
简单说:MoE 让"每算一步只付出小模型的代价",混合注意力让"读长文不吃力",MTP 让"吐字更快"——这正是它能在 35B 量级上逼近前沿大模型的底层原因。权重分片见 model-00000-of-00014.safetensors,MTP 专用权重单独存放于 model-mtp.safetensors,完整参数映射可查看 model.safetensors.index.json。
三、三大核心能力:为什么它能做"长任务"?🧠
1️⃣ Agentic Orchestration:像主管一样派活
当任务能拆成若干互相独立的子调查时,Sage-A1.5 会调用spawn_subagent工具,把子任务并行分发给多个子智能体——每个子智能体拥有独立上下文窗口和工具权限,互不干扰,最后将结构化结果(answer / status / evidence / unresolved_issues)汇总回主模型。这正是它能在 BrowseComp 上从 81.7 提升到 82.8 的关键。
2️⃣ Verification Mode:模型自带"复盘开关"
这是一个可选开启的自我验证模式:请求中传入{"verification": true},模型会在思考中途主动停下来——回顾"哪些结论已确认、哪些路径失败了",然后在同一轮内按修正后的方向继续,无需外部裁判模型。对长程任务而言,这大幅降低了"越走越偏"的风险。
3️⃣ Open Scientific Discovery:从答题到做研究
前两类能力解决"已知问题",第三类能力则把智能体延伸到探索式科研:连接科学假设、交互式分析与可检验的研究过程产物,让模型不只是给出答案,而是"做完研究并留下可审查的痕迹"。
四、7项基准SOTA:成绩单如何炼成 🥇
在六大方向的真实智能体工作流评测中,Sage-A1.5 对比了 Kimi-K3、GLM-5.3、GPT-5.6-sol 等更大规模的系统,拿下7 项整体 SOTA:
| 基准 | 方向 | Sage-A1.5 | 最接近的对手 |
|---|---|---|---|
| XBench-DS-2510 | 长程搜索 | 92.0🥇 | GPT-5.6-sol(90.0) |
| IFBench | 指令遵循 | 81.6🥇 | Agents-A1(80.6) |
| PinchBench | 通用智能体 | 90.0🥇 | Kimi-K3(88.2) |
| FrontierScience-Olympiad | 科学研究 | 81.0🥇 | Agents-A1(79.0) |
| FrontierScience-Research | 科学研究 | 48.3🥇 | GPT-5.6-sol(26.7) |
| CMT | 科学研究 | 80.0🥇 | GPT-5.6-sol(50.0) |
| OmniDocBench | 科学智能体 | 91.5🥇 | Kimi-K3(91.1) |
另有GAIA 95.1——高于所有参比的更大规模模型(仅略低于同门 Agents-A1 的 96.0)。在 ~35B 同量级对比中,它还在 SWE-bench Pro(61.2)、MLE-Lite(65.2)、HLE w/ tools(55.1)等 10 余项任务上排名第一。
SOTA 是如何炼成的?对比上一代 A1,工程与智能体类任务提升显著:SWE-bench Pro+17.6、SWE-bench Multilingual+14.0、MLE-Lite+21.3、PinchBench+13.1——核心配方就是"编排 + 验证 + 工具使用 + 智能体推理"的系统性强化。完整评测数据见 README.md 的 Performance 章节。
五、快速上手:三步跑起 Sage-A1.5 🚀
第一步:获取模型
git clone https://gitcode.com/InternScience/Sage-A1.5第二步:一键部署(vLLM 为例)
vllm serve InternScience/Sage-A1.5 \ --port 8000 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder部署完成后,服务在http://localhost:8000/v1提供 OpenAI 兼容 API。SGLang 用户可用--speculative-algorithm EAGLE开启 MTP 加速;若需512K 超长上下文,按 README.md 中的 YaRN(factor: 2.0)参数覆盖即可。
第三步:按需开启进阶模式
- 智能体编排:在你的工具列表中注册
spawn_subagent工具(schema 见 README.md Advanced Modes 章节),模型会自动在合适时机并行分派子任务 - 验证模式:请求中通过
chat_template_kwargs传入{"verification": true},注意需要非空 system 消息,且必须是 JSON 布尔值
官方推荐采样参数(影响生成质量,建议照抄):
| temperature | top_p | top_k | min_p | presence_penalty |
|---|---|---|---|---|
| 1.0 | 0.95 | 20 | 0.0 | 1.5 |
六、仓库文件导航 📁
| 文件 | 作用 |
|---|---|
| README.md | 模型介绍、完整评测数据与部署文档 |
| config.json | 核心架构配置(专家数、上下文、RoPE 等) |
| chat_template.jinja | 对话模板,含验证模式触发逻辑 |
| tokenizer.json / tokenizer_config.json | 词表与分词配置(词表 248K) |
| processor_config.json / video_preprocessor_config.json | 图像/视频多模态预处理配置 |
| model-mtp.safetensors | MTP 多 token 预测专用权重 |
写在最后 ✍️
Sage-A1.5 证明了"智能体能力"不必然依赖超大参数量:用 MoE 稀疏激活、混合注意力和 MTP 加速把成本打下来,再用编排、验证、科学探索三大能力把长程任务做扎实——35B 的体量,7 项 SOTA 的成绩。如果你正在寻找一个可自部署、支持工具调用与超长上下文的开源智能体模型,它值得放进你的技术清单。
- 大模型
- 基础模型
- 多模态
- AI Agent
- 科研
【免费下载链接】Sage-A1.5
相关推荐
Sage-A1.5 Q8_0 GGUF 完整入门:如何本地运行可媲美大厂的 35B 智能体多模态模型
Sage A1.5 Q8_0 GGUF 完整入门:如何本地运行可媲美大厂的 35B 智能体多模态模型 Sage A1.5 Q8_0 GGUF 是 InternS
大模型模型量化本地部署Instella-MoE-16B-A3B-DPO性能实测:AMD的MoE大模型在OLMES基准上如何对标SOTA模型
Instella MoE 16B A3B DPO性能实测:AMD的MoE大模型在OLMES基准上如何对标SOTA模型 Instella MoE 16B A3B
人工智能大模型基础模型从4096到1024:Llama3革命性8头KV设计如何节省75%算力?
从4096到1024:Llama3革命性8头KV设计如何节省75%算力? 你是否好奇,为什么Llama3能在消费级显卡上流畅运行?为什么同样是70亿参数,有些模
大模型基础模型多模态AI Agent科研
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考