Demo 里"一次成功",生产里"千次千难"——上线前的最后一道封装
前 18 篇我们把 Agent 从print一路养到"会查、会记忆、会编排、能评估"。到这儿,你手上已经有能力很强的 Agent 了。但有没有想过:**为什么你的 Agent 自己跑得好好的,一上生产的并发就开始出妖?
- 用户点一下,Agent 去调行情接口,结果接口偶发超时——直接报错给用户;
- 用户手快点两下,同一条请求发了两次——重复消费、重复扣费;
- 下游待 JSON 服务慢/挂,Agent 也不退让,一直傻等,把资源耗尽;
- 一瞬间 100 个请求冲进来,Agent 不设防,把上游打爆。
生产和 demo 最大的区别不是算法,是你要在它前面叠一摞"压力保卫"。这一篇我们把最常用的四道闸:限流(限频)、幂等(去重)、重试(韧性)、熔断(保护上游),用纯 Python 打包到一个"生产封装层",维护起来像穿墙了一样层层过滤。它绝不调 LLM,专注"把通道打稳",所以任何 Agent 都能套。
四道闸,先记概念再看代码
| 闸门 | 拦的是什么 | 你肉眼能看到的 |
|---|