为什么选择Caveman压缩而不是换用更便宜的AI模型?
【免费下载链接】caveman🪨 why use many token when few token do trick — Claude Code skill that cuts 65% of tokens by talking like caveman项目地址: https://gitcode.com/GitHub_Trending/caveman1/caveman
Caveman 是一个开源的 Token 压缩工具,它不让你放弃现有 AI 编程助手,而是在本地压缩 Claude Code、Codex、Gemini 等代理每次"读"和"说"的内容:输出侧平均省 65% token,输入侧在固定基准下节省 33.2% 的供应商计费输入 token。换更便宜的模型,你会付出能力降级、工作流推倒重来的隐性成本;Caveman 压缩则让你在保留现有模型与工作流的前提下,把账单打下来。
换更便宜的AI模型,到底牺牲了什么?
很多人被 AI 账单刺激后的第一反应是:"换个便宜模型算了。"但这条路有几笔不显眼的账:
- 能力降级:便宜模型在复杂重构、长链路调试上的错误率会上升,省下的 token 钱可能以返工时间加倍还回去;
- 工作流重建:你为 Claude Code / Codex 调好的配置、命令、习惯、提示词全部作废,要重新踩一遍坑;
- 上下文变短:低价模型往往窗口更小,长会话被频繁截断,反而增加重复粘贴和重复推理的开销;
- 订阅沉没成本:如果你用的是 Claude Pro/Max 订阅,换模型等于放弃已付费额度。
而 Token 压缩走的是另一条路:模型不动、工作流不动,只把每次请求里冗余的字节变小。这正是 Caveman 项目口号"why use many token when few token do trick"的含义。
Caveman 压缩如何工作:本地代理 + 压缩引擎
Caveman 2 由两个可独立使用的部分组成:
| 组件 | 作用 | 省哪一侧 |
|---|---|---|
| Caveman Skill(原版技能) | 让代理用"原始人"式简短语气回答,代码、命令、报错保持逐字节不变 | 输出 token |
| Caveman Proxy(本地代理) | 在每次调用供应商前压缩代理"读"的内容(日志、JSON、代码、历史),并支持字节级恢复 | 输入 token |
一条命令即可把现有代理包进本地代理:
npm install -g @caveman-ai/cli && caveman setup --install caveman claude # 也支持 codex · gemini · aider · opencode · hermes · openclaw安全机制是换模型给不了的三点保障:
- CCR 优先——原始字节先写入本地内容寻址存储,再发送压缩版;代理随时可用
caveman_retrieve取回原文; - 可见的拒绝——每种变换只有实测更小时才执行,不划算就原样放行,并说明原因;
- 证据分级——本地结果只标
inferred,不冒充供应商账单数字。
上图为浏览器扩展里的直观对比:同一个"React 组件为什么重渲染"的问题,普通回答 69 token 起步,Caveman 回答 19 token,修复方案(
useMemo)一字不差地保留。
真实数据:33.2% 输入 token 缩减,质量 18/18 通过
换模型省的是"单价",Caveman 省的是"用量"。在钉死版本的 54 次运行 Claude Code 基准中(docs/WRAP-BENCHMARK.md):
| 对比组 | 供应商计费输入 token | 相对直连 | 精确答案质量 |
|---|---|---|---|
| 直连 Claude Code | 885,793 | 基线 | 18/18 |
| Caveman 包裹 | 591,673 | 少 33.2%(95% 区间 14.6%–48.5%) | 18/18 |
分项看更有意思(docs/WRAP-BENCHMARK.md):日志类任务省 50.2%、CSV 类省 55.1%、JSON 类省 26.4%——内容噪声越大的场景,压缩收益越大。而 HTML 仪表盘场景反而 +9.9%,报告原样保留了这条负结果,这正是"换便宜模型"的营销话术给不了你的诚实度。
配合caveman learn,它还能扫描你磁盘上几个月的代理历史,生成"Cave Score":按流量排名每一个 token 消耗源(比如每轮都带着的 2340 token 全局 CLAUDE.md),每行附一条一行修复建议,且分析器只读、永不改你的文件。
输出侧:平均 65% 的输出 token 压缩
Skill 侧的公开基准(README.md)覆盖了 10 类真实任务:
| 任务 | 普通 | Caveman | 节省 |
|---|---|---|---|
| 解释 React 重渲染 bug | 1180 | 159 | 87% |
| 实现 React 错误边界 | 3454 | 456 | 87% |
| PostgreSQL 连接池配置 | 2347 | 380 | 84% |
| Docker 多阶段构建 | 1042 | 290 | 72% |
| git rebase 与 merge 区别 | 702 | 292 | 58% |
| 平均 | 1214 | 294 | 65% |
注意规律:越"话痨"的解释型任务省得越多,越机械的代码编辑任务省得越少——这与换模型"一刀切降价"不同,压缩收益跟着你的实际负载走。
进阶玩法是Pixel 模式:文本按 token 计价,图片不按。一个真实的高密度请求(63.7k 字符压缩 JSON 工具目录 + 93k 字符长行日志)从约 55,413 文本 token 降到约 11,402 图像 token,−79%(README.md)。上图就是密集日志被渲染成的单张 PNG 页面——原文随时可从本地 CCR 恢复。
诚实的代价:什么时候压缩不划算?
项目专门用 docs/HONEST-NUMBERS.md 一页讲反例,这是选择它而非换模型的重要理由——它敢告诉你何时该关掉:
- Skill 本身每轮增加约 1–1.5k 输入 token,超短问答可能净亏;
- 按请求计费(如 Copilot credits)的场景,回答变短不省请求数,压缩无收益;
- 有用户 A/B 实测出现 4.3M vs 1M token 的反向案例,官方结论是:如果你的 A/B 净亏,就关掉。
一句话决策规则(同样写在该文档中):用供应商账单上的"同一任务开/关 Caveman"总额对比,若固定开销超过输出节省,就对该工作负载关闭。换便宜模型没有这种"可测量、可回滚"的退出机制,选错了只能整体换回来。
快速上手:三步开始压缩
安装 CLI 并包裹代理(支持 Claude Code、Codex、Gemini CLI、Aider 等 7 个原生包裹,新增一个只需在 agents/profiles/ 加一个 JSON 文件):
npm install -g @caveman-ai/cli && caveman setup --install caveman claude只想先省钱不压缩?
caveman wrap --off claude只做字节级一致的计量,观察你的真实 token 分布;让数据说话:
caveman learn扫描历史出报告,caveman stats看压缩引擎按内容类型的实际战绩。
细节见 INSTALL.md 与 docs/technical/product-model.md 的"最小路径选择表"。
结论:压缩是"无损保留",换模型是"整体降级"
| 维度 | 换更便宜的模型 | Caveman Token 压缩 |
|---|---|---|
| 模型能力 | 下降,需重新适应 | 完全不变 |
| 工作流/配置 | 重建 | 原样保留 |
| 节省幅度 | 单价差异,视模型而定 | 输入 −33.2%、输出平均 −65%(钉死基准) |
| 可逆性 | 换回来 = 重新迁移 | 一条命令卸载,原文可从 CCR 恢复 |
| 诚实度 | 厂商宣传 | 公开反例、负结果与证据分级 |
如果你的痛点是"账单太贵但现有模型很顺手",Caveman 压缩是风险最低的那条路:保留你正在用的模型,只把每次往返的冗余字节变小。想先看数据再动手?caveman wrap --off的纯计量模式和caveman learn的报告,让你在花一分钱之前就知道自己的 token 都漏在哪了。🪨
【免费下载链接】caveman🪨 why use many token when few token do trick — Claude Code skill that cuts 65% of tokens by talking like caveman项目地址: https://gitcode.com/GitHub_Trending/caveman1/caveman
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考