【免费下载链接】Qwen3.8-35B-A3B-Distill-GGUF
Qwen3.8-35B-A3B-Distill-GGUF 是由 Empero 发布、采用Apache-2.0 授权的开源大模型 GGUF 权重合集,共 35B 总参数、每 token 仅激活约 3B 参数,可直接在 llama.cpp、Ollama、LM Studio 等主流运行框架中本地运行。这篇文章一次讲清三件事:权重从哪里来、Apache-2.0 授权允许你做什么、商用前必须做哪些动作。
一分钟看懂这个仓库
先快速过一遍基本盘,避免后面看许可条款时"对不上号":
- 🧠模型定位:Qwen3.8 前沿模型的蒸馏版,压进了 Qwen3.6-35B-A3B 的 MoE(混合专家)架构,推理模型,回答前会先输出
think思考块 - ⚡架构特性:30 层 Gated DeltaNet + 10 层全注意力,256 个专家、每 token 路由 8 个——稀疏激活让它比同体积稠密 35B 快得多(README.md)
- 📦文件覆盖:从 12.5 GB 的 IQ2_M 到 71 GB 的 BF16 全精度,另有 0.9 GB 的视觉投影文件,一套权重满足 16 GB 显卡到工作站的全部场景
- 🔑授权方式:Apache-2.0,继承自 Qwen 基座,"shared as-is"(原样共享,不附加任何额外限制)
权重从哪里来?三层"血统"拆解
搞清楚来源是判断许可是否"干净"的第一步。这个仓库的权重可以拆成三层:
| 层级 | 来源 | 作用 |
|---|---|---|
| ① 教师模型 | Qwen3.8 前沿模型 | 蒸馏的知识源头 |
| ② 基座架构 | Qwen3.6-35B-A3B(阿里 Qwen 团队) | 提供 MoE 骨架与 Gated DeltaNet 混合结构 |
| ③ 本仓库 | Empero 的 GGUF 量化版本 | 面向 llama.cpp 等运行时的分发格式 |
官方在 README.md 的Provenance & licensing一节明确写道:
Weights areApache-2.0, inherited from the Qwen base, shared as-is.
翻译过来就是:Apache-2.0 授权继承自 Qwen 基座模型,本仓库原样共享,不追加新条款。这是商用判断里最关键的一句话——你没有面对一个"叠加了自定义限制的混合协议",而是社区最通用、法务最好处理的许可证之一。
Apache-2.0授权意味着什么
✅ 你可以自由做的事
| 权利 | 说明 | 典型场景 |
|---|---|---|
| 商用 | 可用于盈利产品与服务 | 嵌入 SaaS、内部工具、付费 API |
| 修改 | 可自由调整 | 微调(LoRA/全参)、二次量化、模型合并 |
| 分发 | 可再分发权重 | 打包进自己的应用镜像或安装包 |
| 专利授权 | 每位贡献者授予专利许可 | 规避"专利反击"风险 |
📝 你需要做的事(合规义务)
Apache-2.0 是"宽松但有礼貌"的协议,义务非常轻:
- 保留声明:分发时保留原始版权声明与许可证文本
- 注明修改:如果你对模型做了改动(微调、剪枝、合并),需在改动部分说明"做过修改"
- 不暗示背书:不得暗示 Empero 或 Qwen 团队为你的产品背书
- 免责声明:模型按"AS IS"提供,不提供任何担保——商用风险自担
一个高频疑问:量化算"修改"吗?会改变授权吗?量化本质上是权重文件的衍生形式,但它继承而非改变原始授权——本仓库所有.gguf文件(含视觉投影器 mmproj-Qwen3.8-35B-A3B-F16.gguf)仍是 Apache-2.0。你拿 Q4_K_M 去微调后发布,结果依然是 Apache-2.0 的商用友好授权,且Apache-2.0 没有 copyleft 条款:你无需开源自己的微调权重或上层业务代码。
商用落地清单:3步走对
动手集成进产品前,花十分钟做这三件事,基本可以堵住所有法务和供应链风险:
第 1 步:校验权重完整性🛡️ 权重动辄 12–71 GB,下载损坏或被篡改都会造成"上线事故"。仓库内置了 SHA256SUMS 校验清单,下载完成后执行:
sha256sum -c SHA256SUMS --ignore-missing看到全部OK才算拿到"正版"文件(方法出处见 README.md)。
第 2 步:在产品中公示许可证📄 在产品"关于/法律"页或文档中写明:
本产品使用 Qwen3.8-35B-A3B-Distill-GGUF 模型权重,遵循 Apache-2.0 许可证。
并随包附上 Apache-2.0 许可证全文——这是该协议唯一硬性要求的分发义务。
第 3 步:记录你的修改✏️ 若做了微调或二次量化,保留版本记录(基线文件 + 你的改动说明),未来被问及"改动过什么"时能自证合规。
仓库文件速览
全部文件均为本仓库根目录下的直接引用,按需取用即可:
| 文件 | 规格 | 体积 | 适合谁 |
|---|---|---|---|
| Qwen3.8-35B-A3B-Q4_K_M.gguf | Q4_K_M | 21.7 GB | ⭐ 官方推荐,质量/体积最佳平衡 |
| Qwen3.8-35B-A3B-IQ2_M.gguf | IQ2_M | 12.6 GB | 16 GB 显存/内存的极限体验 |
| Qwen3.8-35B-A3B-Q6_K.gguf | Q6_K | 29.2 GB | 接近无损的进阶选择 |
| Qwen3.8-35B-A3B-Q8_0.gguf | Q8_0 | 37.8 GB | 最高质量量化 |
| Qwen3.8-35B-A3B-BF16.gguf | BF16 | 71.1 GB | 全精度参考基线 |
完整 11 个文件(含 IQ3_M、Q2_K、Q3_K_M、IQ4_XS、Q5_K_M 及各档显存适配建议)见 README.md。
如何下载权重
仓库为 Git LFS 存储,克隆即可获得真实权重文件:
git clone https://gitcode.com/hf_mirrors/empero-ai/Qwen3.8-35B-A3B-Distill-GGUF💡 若克隆后只看到 100 多字节的"指针"文件,说明 LFS 未拉取,执行
git lfs install && git lfs pull补全即可。
常见问题 FAQ
Q1:Apache-2.0 可以商用吗?可以,这正是它和"仅限研究用途"模型的核心区别。商用唯一义务是保留许可声明。
Q2:微调后发布,需要开源我的权重吗?不需要。Apache-2.0 无 copyleft,你的改进代码和权重都可以闭源(但仍需注明"基于原模型修改")。
Q3:不同量化档位授权一样吗?一样,仓库内所有文件统一为 Apache-2.0。
Q4:视觉投影器(mmproj)的许可呢?同仓库同许可。注意官方提示:蒸馏只覆盖文本能力,视觉行为未经专门评估,商用前建议自行验证。
⚠️ 本文为开源协议科普性解读,不构成法律意见;重大商用决策建议结合自身场景咨询法务。
一句话总结:Qwen3.8-35B-A3B-Distill-GGUF 血统清晰(Qwen 基座 → Empero 蒸馏 → GGUF 量化)、授权干净(纯 Apache-2.0、无附加条款),校验有 SHA256SUMS 兜底——商用前守住"校验完整性 + 公示许可证 + 记录修改"三步,就可以放心跑进生产环境。
【免费下载链接】Qwen3.8-35B-A3B-Distill-GGUF
相关推荐
OpenMDW-1.1 许可证意味着什么?Laguna-S-2.1-GGUF 商用授权与合规边界完全指南
OpenMDW 1.1 许可证意味着什么?Laguna S 2.1 GGUF 商用授权与合规边界完全指南 Laguna S 2.1 GGUF 是 Poolsid
Apache 2.0意味着什么?FLUX.2-klein-base-4b-fp8免费商用授权条款全解读
Apache 2.0意味着什么?FLUX.2 klein base 4b fp8免费商用授权条款全解读 FLUX.2 klein base 4b fp8 是 B
S1-mini-MLX-4bit商用前必看的许可指南:Apache 2.0加命名条款意味着什么?
S1 mini MLX 4bit商用前必看的许可指南:Apache 2.0加命名条款意味着什么? S1 mini MLX 4bit 是 Superwhisper
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考