☰
给 Agent 更多能力,就是给事故更多入口
2026/10/14 3:35:50 网站建设 项目流程

我认识一个产品经理,他非常有想法。

他们团队在搭建一个电商客服 Agent,他给这个 Agent 配备了 12 个能力:

查订单状态、修改收货地址、申请退款、申请换货、查物流轨迹、查库存、推荐相关商品、发放优惠券、提交投诉工单、查询会员积分、联系快递公司、升级人工客服。

他在内部演示时说:“这样,用户所有问题都能解决了。”

大家都觉得很棒。

上线一个月后,数据回来了。

Agent 的任务错误率:22%。

每五个用户,有超过一个人的问题没有被正确处理。

团队开始排查原因。最后发现,错误主要集中在两类:

第一类:Agent 选错了工具。用户说"我想换货",Agent 调用了"申请退款"接口。

第二类:Agent 在多个工具之间来回跳转,最终没有完成任何一个动作,输出了一段"请稍候,我需要确认一下"的废话。

于是他们做了一个大胆的实验:

把工具从 12 个砍到 4 个。

只保留:查订单状态、申请退款、提交工单、升级人工。

两周后,错误率降到了 3%。

删掉了 8 个能力,Agent 聪明了 7 倍。

这是一个反直觉到让人不舒服的结果。

我们直觉上认为:能力越多 → 能解决的问题越多 → Agent 越有价值。

但实际发生的是:能力越多 → 选择越复杂 → 判断错误越多 → Agent 越不可靠。

这不是这个团队的特殊情况,这是一个普遍现象。

而理解这个现象背后的原因,会彻底改变你设计 Agent 的方式。

认知科学的弹药——选择悖论

1956 年,认知心理学家乔治·米勒(George Miller)发现了一个著名的规律:

人类的工作记忆,一次大约只能处理7±2 个信息块。

超过这个数量,认知负担会急剧上升,判断质量会显著下降。

这就是为什么电话号码是 7-8 位的,为什么菜单不会无限长,为什么好的 PPT 每页不超过三个要点。

2004 年,心理学家巴里·施瓦茨(Barry Schwartz)把这个现象发展成了一本书:《选择的悖论》。

他的核心发现:

选项越多,决策负担越大,选择质量越差,最终满意度越低。

他做了一个经典实验:

在超市里摆 24 种果酱,60% 的路过者停下来试吃,但只有 3% 的人购买。

然后换成 6 种果酱,停下来试吃的人减少了,但购买率上升到了 30%。

选项少了四分之三,成交率提高了十倍。

这个原理在人类身上成立。在 LLM 身上,成立得更彻底。

原因在于:LLM 的"注意力"(Attention)是真实的、有限的计算资源。

Transformer 架构的核心机制,字面意义上就是在所有可能的内容之间分配"注意力权重"。

当你给 Agent 接入 12 个工具,意味着在每一次决策时,模型需要同时考虑这 12 个工具的适用场景、调用方式、以及相互之间的优先级关系。

这不只是多了几个选项那么简单。

这是认知负担的指数级增加。

有研究显示:当 Agent 可用工具的数量从 5 个增加到 20 个时,工具选择的错误率会上升 30% 到 50%。

而工具选择错误,通常会导致整个任务链条的崩溃——因为 Agent 的行动是串联的,第一步选错了,后面全错。

给 Agent 更多能力,不是给它更多机会,是给它更多犯错的入口。

重新定义"克制"这件事

当你把一个功能从 Agent 里删掉,大多数人的感觉是"妥协"或者"退步"。

“我们不得不砍掉这个功能。”

这句话的潜台词是:这是一个遗憾。如果可以,我们希望它能在里面。

我想给这件事换一个定义。

每一个你没给 Agent 的能力,都是你为它赢得的可靠性。

这不是妥协,这是设计。

类比一下:

你见过手术刀吗?

手术刀是一个极度约束的工具。它只做一件事:切割。它不能缝合,不能夹持,不能给药,不能监测心跳。

但正是因为这种极度的约束,手术刀在"切割"这件事上,达到了普通刀具无法企及的精准度和可靠性。

如果你给手术刀加上缝合功能、夹持功能、给药功能——

它会变成一个什么都能做、什么都做不好的东西。

最好的 Agent,不是功能最多的 Agent。

最好的 Agent,是在它的工作范围内,几乎不会出错的 Agent。

这里有一个让人放心的逻辑:

约束不是天花板,约束是地基。

你给 Agent 建立的约束,就是你给用户建立的信任承诺。

“这个 Agent 会做这四件事,而且会做得很好。”

比"这个 Agent 能做所有事,但偶尔会做错"——

哪个你更愿意用?

能力扩张的正确顺序

这里有一个让很多管理者反直觉的结论:

最快扩张 Agent 能力的路,是先收缩它。

具体来说:

text

第一步:极度约束(2-4 个核心能力) → 在窄域内把准确率做到 95% 以上 → 用户开始信任这个 Agent → 使用率上升 → 积累到足够多的真实交互数据 第二步:数据驱动扩展 → 用数据识别"用户最频繁遇到但 Agent 无法处理"的场景 → 增加那个具体的能力 → 而不是凭猜测增加"我们觉得用户可能需要"的能力 第三步:验证,再扩展 → 每次增加一个能力后,观察整体错误率的变化 → 如果错误率上升超过阈值,撤回这个能力 → 如果稳定,再考虑下一个 第四步:重复

这个顺序,和你第一直觉想做的事完全相反。

第一直觉:先把所有能力都加进去,上线后再慢慢优化。

正确顺序:从最核心的两三个能力开始,用可靠性换取信任,用信任换取数据,用数据指导扩展。

用复利的逻辑来理解:

一个 95% 准确率的 Agent,每运行 100 次,有 95 次建立信任,5 次损失信任。

净信任积累:+90。

一个 78% 准确率的 Agent(功能更多但更容易出错),每运行 100 次,有 78 次建立信任,22 次损失信任。

净信任积累:+56。

但信任的损失不是线性的。一次严重的错误,可能需要十次正确才能修复。

所以 78% 的真实净信任积累,可能是负数。

可靠性是信任的货币。你每加一个能力,就是在稀释这个货币的含金量。

三个问题——决定一个能力该不该加

每次有人说"这个 Agent 应该加 XX 功能"时,我会问三个问题:

问题 1:如果没有这个能力,用户的核心需求还能被满足吗?

如果是 → 不要加。这是边缘需求,不是核心需求。让 Agent 集中精力把核心需求做好。

如果否 → 继续问第二个问题。

问题 2:这个能力的调用出错,后果是可逆的还是不可逆的?

可逆(比如:生成一段推荐文案,用户觉得不好可以忽略)→ 可以加,但写清楚使用边界。

不可逆(比如:自动退款、自动删除数据、自动发送邮件)→ 先不要给 Agent 完全自主权,加人工确认节点,或者暂时不开放。

不可逆的动作,错一次的代价可能需要十次正确来偿还。你的 Agent 还没有积累足够的信用来承担这个风险。

问题 3:这个能力的正确使用场景,能用一句话说清楚吗?

能说清楚 → 这个能力是明确的,Agent 知道什么时候用。写进工具描述(Tool Description),可以加。

说不清楚 → 你自己都没想清楚这个能力该在什么时候用。Agent 会比你更困惑。先想清楚再加。

这三个问题,不是让你一个功能都不加。

而是让你带着明确的目的加,而不是因为"感觉应该有"而加。

工具描述:被严重低估的设计元素

这里有一个大多数人不重视、但影响巨大的细节:

工具描述(Tool Description)的质量。

当你给 Agent 接入一个工具时,你需要告诉 Agent 这个工具"是什么、能做什么、什么时候用"。

大多数团队这样写:

text

工具名:query_order 描述:查询订单信息

这个描述,对 Agent 来说几乎没有信息量。

什么样的订单?什么时候用?不能用的场景是什么?

一个好的工具描述,应该是这样的:

text

工具名:query_order 描述:查询用户订单的详细信息,包括订单状态、物流轨迹、 金额明细。 使用场景:当用户询问订单进度、物流状态、订单金额明细时使用。 不使用场景:不要在用户尚未提及具体订单时主动调用此工具。 输入:用户订单号(必须由用户提供,不要自行猜测) 输出:订单状态、物流信息、金额 注意:如用户没有提供订单号,先询问订单号再调用。

这两个描述,给同一个 Agent 用,错误率的差异可能超过 30%。

这个原则背后的逻辑是:

你能把工具描述写多清楚,Agent 就能用得多准确。

写不清楚,不是因为你表达能力不好。

是因为你自己还没想清楚这个工具该在什么时候用。

写工具描述,本质上是在强迫你把业务判断逻辑显式化。

这个过程本身,比 Agent 更有价值。

约束是风格,风格是力量

Steph Ango,Obsidian 的 CEO,写过一句我很喜欢的话:

“风格是一组你坚持的约束。收集你喜欢的约束。不寻常的约束让事情更有趣。”

他说的是创作和设计,但放在 Agent 设计上同样成立。

你给 Agent 的约束,定义了它的风格。

一个被严格约束的 Agent,有强烈的个性——它知道自己能做什么,不能做什么。

它在"能做"的范围内,表现得极其稳定可靠。

一个没有约束的 Agent,什么都能试,什么都不稳定。

用户不知道能不能信任它,因为它自己也不知道自己能不能做好。

最好的 Agent 和最好的人一样:

不是什么都能做的人,

而是知道什么不做的人。

这种知道,不是能力限制,而是判断力的体现。

下次有人提议"给 Agent 加一个新功能"的时候——

在说"好的"之前,先问那三个问题。

然后,如果你最终决定不加,试着把这个决定说出来:

“我们选择不给它这个能力,是因为我们选择让它在核心场景里做到 97% 的准确。”

这不是退步。

这是设计。

关于 Agent 能力设计的核心原则

你给 Agent 的每一个能力,都会稀释它的可靠性

你给 Agent 的每一个约束,都在为它赢得信任

最快扩张能力的路:先极度收缩,做到可靠,再数据驱动扩展

最好的 Agent 不是功能最多的 Agent 而是在它的工作范围内几乎不会出错的 Agent


我相信:在 AI 时代,每个普通人都该拥有一个自动生长的知识系统

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询