☰
一次调用,多项决策:GLiNER2.5-Decide如何单次前向同时打分意图、紧急度与路由
2026/10/4 8:37:54 网站建设 项目流程

一次调用,多项决策:GLiNER2.5-Decide如何单次前向同时打分意图、紧急度与路由

【免费下载链接】GLiNER2.5-Decide项目地址: https://ai.gitcode.com/hf_mirrors/fastino/GLiNER2.5-Decide

GLiNER2.5-Decide 是 GLiNER2.5 家族中的 340M 参数英文文本分类模型,主打「一次调用、多项决策」:你可以在单次前向推理中同时为一段文本打分意图、紧急度、路由队列等多个标签头,无需提示词模板,也不生成任何 token。适合意图分类、情绪分析、工单路由、垃圾邮件识别等运营决策场景,pip install gliner2后即可在本地 CPU/GPU 上运行。

它是什么:340M 参数的运营决策专用分类器

GLiNER2.5-Decide 不是一个通用大模型,而是一个「标签集在调用时才传入」的专用分类器:

  • 编码器:DeBERTa-v3-large(24 层、隐藏维度 1024,见 encoder_config/config.json)
  • 架构:span 结构的SpanExtractor,token_pooling为 first,不生成文本,只做打分(见 config.json)
  • 参数规模:340M,CPU 或 GPU 均可跑通(权重文件 model.safetensors)
  • 协议:Apache 2.0 开源,配套词表与分词器 tokenizer.json

它的定位很明确:不推理、不解释、不回答开放式问题,只负责对「客户意图、银行请求、情绪、优先级、文档类型、邮件路由、转人工、审核策略、严重级别、垃圾邮件」这类运营决策给出标签。

核心能力:单次前向同时给多个标签头打分 🎯

传统做法里,你要判断一封邮件「发送者想要什么、有多紧急、该归哪个团队」,往往要跑三次分类甚至串联多个提示词。而classify_text支持在一个调用里传入多个「头」,模型对同一段文本一次性完成打分:

model.classify_text( "From: compliance@group.example\nSubject: Protocol update — action required today\n\n...", { "intent": ["fyi", "request", "approval", "complaint", "newsletter", "security_alert"], "urgency": ["low", "normal", "high", "critical"], "route": ["support", "billing", "legal", "security", "finance", "archive"], }, ) # {"intent": "request", "urgency": "high", "route": "legal"}

一次前向,三个答案。路由系统因此不必把模型跑三遍,这是「Decide」系列最核心的卖点。

单标签 vs 多标签:两种返回形态

  • 单标签任务(意图、路由、情绪):返回一个字符串,例如{"intent": "refund_request"}
  • 多标签任务(如产品方面、主题标签):返回所有超过阈值的标签,例如{"aspects": ["battery", "keyboard", "screen"]},可用multi_label: True和cls_threshold控制

除此之外,同一接口还支持:带描述标签(给标签名附加一句定义,私有分类体系无需换更大的模型)、序数打分(把"0"~"5"当普通字符串传入,输出 urgency 排名)、基于文段的 yes/no 问答(传入prompt问题)等玩法,全部在 README.md 的 Examples 一节有完整示例。

基准表现:17 个领域上跑赢更大的模型 📊

官方在fastino/fast-decisions基准(17 个领域、每域 300 条留出样例、统一文本与候选标签)上做了精确匹配评测:

模型平均准确率
GLiNER2.5-Decide (340M)60.2%
GLiNER2.5-Decide-1B59.6%
JevK557.6%
GLiNER2.5-multi-Decide (287M)56.7%
SemIf (Qwen3.5-4B)56.4%
GLiFormer large-v149.0%
Laya Router46.6%

340M 的模型反而拿到最高分——对追求低延迟、可本地部署的团队来说,「更小、更快、更准」正是选择它的理由。注意该基准是英文语料,多语言输入请使用同家族的 GLiNER2.5-multi-Decide。

快速上手:三步完成安装与首次调用 ⚡

pip install gliner2
from gliner2 import AutoExtractor model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-Decide")

然后任选一个任务标签集调用classify_text即可,例如垃圾邮件二分类:

model.classify_text( "Your mailbox is almost full. Click here in the next hour...", {"label": ["spam", "ham"]}, ) # {"label": "spam"}

没有提示词要调、没有生成参数要调,标签集即产品目录——想改分类体系,直接改传入的标签列表。

典型应用场景清单

  • 📥邮件分诊:意图 + 紧急度 + 路由一次给齐,收件箱落袋前拿到三个答案
  • 🎫工单路由:员工描述问题而非部门,模型把工单直接开进正确队列(benefits、it_access…)
  • 💬客服意图识别:退款、取消订阅、登录故障共享一个收件箱与标签集,首轮就启动正确工作流
  • ⭐评论情绪与方面分析:先判 mixed,再用多标签头拆出 battery / keyboard / screen
  • 🛡️内容审核:allow / personal_data / harassment / scam / spam 政策标签一次决策
  • ✋转人工闸门:{"handoff": ["yes", "no"]}两标签判断,成本极低,适合每条消息都跑
  • 📄文档类型识别:发票、合同、简历、会议纪要,作为抽取流程前的分流闸门
  • ⏱️紧急度排序:"0"~"5"字符串标尺,SLA 系统直接读取分数

如何接入托管训练与推理服务

如果不想自管模型,Fastino 提供托管 API:数据集上传、训练任务提交、checkpoint 评估与部署一条龙。SKILL.md 中定义了完整的 API 工作流——模型目录查询、数据集上传与状态轮询、训练任务提交与日志检查、推理调用与 checkpoint 部署等接口约定,以及训练数据准备与阈值调优的最佳实践,可把它当作接入手册参考。

资源导航

  • 项目说明与全部任务示例:README.md
  • 模型架构配置:config.json
  • 编码器(DeBERTa-v3-large)配置:encoder_config/config.json
  • 托管 API 工作流与数据准备指南:SKILL.md
  • 分词器与特殊 token:tokenizer.json、special_tokens_map.json

一句话总结:如果你需要给意图、紧急度、路由、情绪等多个决策维度打分,又不想为每个维度单独跑一次模型,GLiNER2.5-Decide 的单次前向多头打分,就是那个「一次调用,多项决策」的答案。

【免费下载链接】GLiNER2.5-Decide项目地址: https://ai.gitcode.com/hf_mirrors/fastino/GLiNER2.5-Decide

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询