一句「哪里能提效」,查出一笔平时看不见的账
观察两天的会话历史,有哪些可以在执行方面提升效率的? —— 用户原话(本会话第 1 句)
AI 每读一个字都要计一次费,计费单位叫 token(差不多一个汉字算一个)。你每问一句话,AI 得把这次对话从头到尾的全部记录重新读一遍,才能接着往下答。这份越聊越长的完整对话记录,就叫上下文。
决定花多少钱的关键,在于读进来的内容在上下文里停留了多少步。一份五万字的文件读进来只用一次,却会一直留在对话记录里,往后每答一句都被重读一遍。聊到第四十句,这份文件就被重算了四十次钱。
平时很难察觉这笔开销,往往要等到额度见底或回答变慢才发现。这次先打开后台账本,把每一分消耗算清楚。
先盘总账,再拆来源,最后动手改规矩
接到问题后,Agent 先调出本机保存的对话账本。过去两天里每一次调用工具、读文件、回答问题的字数都在里面,按三步盘清:
这次查了哪些材料
| 查的材料 | 里面记着什么 | 干什么用 |
|---|---|---|
| 本机对话记录库 | 两天 48 个主会话、3,595 次工具调用、每次输出长度与报错记录 | 算出哪类操作最费额度,拿真实数字说话 |
| 平时遵守的规矩清单 | 日常干活的默认规则,含控制对话长度的条款 | 核对哪些规矩早就写过却没落地,避免重复加条款 |
| 常见错误提醒清单 | 以前踩过的九类坑和能力边界 | 确认省字数时哪些步骤必须保留,防止为了省钱把活干错 |
◆账本推翻了最先想到的省钱办法
起初以为省额度要靠少读文件。查完账发现,工具新读进来的内容加起来只有 240 万(2.4M),但它们在随后几十上百步里被反复重读,滚出来的账单远超本身大小。真正要管住的是大段内容在对话里的停留时间。想给自己的 AI 算这笔账,按这四句发过去
把下面四句话按顺序发给你的 Agent,让它先交账单再改规矩:
1. 先看最近几天的对话记录,把「新读进来的量」和「总消耗」分别算出来, 告诉我平均每个字被重看了多少遍; 2. 找出最费额度的三个对话,说明它们贵在哪:是一次读进来的太多,还是来回步数太长; 3. 统计单次返回超过 4000 字的有多少次,里面有多少是把整份文件或整张网页直接倒进来的; 4. 先改一条规矩,开一个新对话跑一件真活测试,把改前改后的数字摆出来对比。
◆第四句决定了规矩能不能落地
定完规矩必须开新对话跑真活验证。这两天的记录里,明明写着「互不依赖的读取要同时发出去」,实际 3,595 次调用里同时发出的只有 10%。只写进文档不拿真活测,规矩很容易沦为摆设。五次追问,把省字数的想法变成可检验的硬规矩
人在中途打断并追问了五次,每次都堵住了一个具体漏洞:
四步循环,六步落地
整件事按四个动作循环推进:
- 算清底账:从历史记录里统计钱花在哪一步,找出真正的消耗大头。
- 改定规矩:把「整篇倒进对话」改成「先算总数、按需分段读」。
- 真活实测:每次改完开新对话跑真实任务,拿改前改后的字数与准确率说话。
- 划清边界:测出哪些活能靠截断省钱,哪些活必须读完全文,同时算清这套做法的省钱上限。
落地生效的六条规矩
· 读文件默认先读 120 行,不够再接着往下读 · 运行命令先算总数、再取前 30 条明细;凡说「共 N 个/全部/没有」必须指回一条计数命令 · 工具输出超长时系统只保留末尾,汇总数字必须放在命令最后打印 · 需要「全部」内容时直接存成文件并给出路径和总数,不把全文读回对话里复述 · 读文件被截断时,下一步要修改的那一段、或要下「全部/每一处」结论的,必须续读到结尾 · 抓参考网页优先用限制字数的方式先抓前 6,000 字,不够再续,不整页直接倒进对话
改前 / 改后:三件真活的实测对比
下面三件活在改前和改后用同一台机器、同一批数据各跑了一遍:
◆第三件活直接测出了准确率差异
改前没有单独跑计数命令,AI 直接数屏幕上剩下的行就报出「35 个」。把错误数字写进交付物的代价,远高于省下的那点字数;先跑计数命令同时保住了省钱和准确。两天总账前后对比:整体降了 19%
单件测试能省九成字数,但把改后两天(10-30~31)和改前两天(10-28~29)的全部对话拉出来算总账,每 1 个字被重看的遍数只从 34.9 遍降到 28.3 遍。原因很明确:占一半成本的那 3 个 250 步以上的超长会话,这次还没有切分。
| 指标 | 改前(10-28~29) | 改后(10-30~31) | 判读 |
|---|---|---|---|
| 每 1 字被重看 | 34.9 遍 | 28.3 遍 | 降 19%,仍被重看 28 遍多 |
| 读文件带行数限制的比例 | 34% | 58% | 明显改善 |
| 几件事同时发出去的比例 | 10.1% | 11.6% | 基本没动 |
| 单次超 4000 字的占比 | 11.6% | 13.2% | 反而略升,仍需盯紧 |
| 每次调用平均输出 | 1,615 字 | 1,820 字 | 略升,两天任务类型不同,不宜直接横比 |
◆单件活降 91% 与两天总账降 19% 必须一起看
单件活降 91% 证明新规矩在具体任务上有效;两天总账只降 19%,说明最费额度的 3 个超长会话仍在背着全套历史运转。往下再要大省,重点得转向切分超长会话。「压单次输出」这条路的天花板测算
拿同一把尺子测算前后两个周期:把每次调用超过 4,000 字的部分拆出来,乘以它后面还剩多少步对话,算出这部分超额内容被重看了多少次。
| 周期 | 实际重看总量 | 超额部分若当场截掉 | 占比 |
|---|---|---|---|
| 10-28~29 | 6.31 亿 | 1.03 亿 | 16% |
| 10-30~31 | 3.59 亿 | 7,570 万 | 21% |
表中数字是理想上限,前提是超出 4,000 字的部分一进对话就切掉,且后续一步都不补读。实际干活时有些长文必须读全,按六折估算,10-30~31 两天实际可省约 4,500 万(占该周期约 12%)。
◆结论边界:压单次输出最多再省一到两成
靠压缩单次返回字数,能省下的空间上限就是一到两成。占一半成本的 3 个 250 步以上超长会话本次未动,后续要继续降本,主攻方向是及时切分长会话。四个让人恍然大悟的节点
5.52 亿 ÷ 1,295 万 ≈ 41.5 倍 新读入 1,295 万(2.3%) | 重读旧内容(97.5%)
两天工具调用总数:3,595 次 同时发出多个调用的比例:10%(改前 10.1% → 改后 11.6%)
常见错误提醒清单:「字数上限管不住」 平时遵守的规矩清单:「单次输出不超过 4,000 字」 → 测试对话只读命中的 3,200 字,当场抓出两处规则自相矛盾
机械统计活(数 4,848 个文件):99,737 字 → 8,465 字(降 91%,答案全对) 精细核对活(找两份规则矛盾):精准定位后完整读完 3,200 字(抓出矛盾)
底账数字、改动对比与四轮测试记录
两天的底账基线
| 项目 | 数值 | 说明 |
|---|---|---|
| 独立对话 | 48 个 | 一次主对话算一个,另有 23 个派生的子对话单独计账 |
| 工具调用 | 3,595 次 | 其中仅 10% 是并发同时发出的 |
| 总消耗 | 5.52 亿 | 真正新读入 1,295 万(占 2.3%),其余 97.5% 是重读旧内容 |
| 重看倍数 | 41.5 倍 | 5.52 亿 ÷ 1,295 万 ≈ 41.5,放进 1 个字平均被重看 41 遍半 |
| 单次输出超 4000 字 | 423 次 | 占全部工具输出量的 64%;工具输出新读入量合计 240 万(2.4M) |
| 最长单轮 | 255 步 | 上传 21 个视频一口气跑完,中途没有切分对话 |
改前与改后的规矩及设置对照
【日常规矩清单 · 控制对话长度】 改前:只写了一句「单次输出目标不超过 4,000 字」 改后:细化为六条可执行动作 + 读文件默认先读 120 行,不够再续读 + 命令行先算总数、再取前 30 条明细,报错信息完整保留 + 超长输出系统只留末尾,汇总数字一律放在命令末尾打印 + 需要「全部」内容时直接存文件并给路径和总数,不读回对话复述 + 下一步要修改的段落、或涉及「全部/每一处」的结论,必须读到文件结尾 + 抓参考网页优先按 6,000 字上限分段抓取,不整页直接倒进对话 【本机工具单次返回上限】 改前默认:最多返回 2,000 行 / 50 KB(51,200 字节) 改后设置:最多返回 400 行 / 20 KB(20,480 字节)
四轮测试全记录
| 轮次 | 测试任务 | 改前表现 | 改后表现 | 测出的新问题 |
|---|---|---|---|---|
| 第 1 轮 | 数 32 个技能文件里开头说明超过 10 行的 | 没跑计数命令,报「35 个」 | 先跑计数命令,报「32 个」 | 不单跑计数命令时,AI 会数屏幕上剩下的行充数 |
| 第 2 轮 | 抓 18 万字文档页找一项设置 | 整页抓进对话,50,697 字 | 只回 328 字,数字全对 | 整页抓取工具如果不加限制,一次就会塞进五万字 |
| 第 3 轮 A | 列出 4,848 个文件名、排最长名、筛子集 | 同类任务 99,737 字 | 8,465 字(降 91%),答案全对,且指出两个匹配项是 Rapid 里的字母 | 它把存盘的清单文件整读了两遍共 9.2 万字,而三条计数命令仅 112 字 |
| 第 3 轮 B | 找两份规则文件的矛盾 | 整读两个文件 | 只读命中的两段共 3,200 字,抓出两处规则自相矛盾 | 引用的行号偏了一行,内容准确 |
◆测试顺带揪出一个隐藏漏洞
命令行返回上限调成 400 行后,只管住了运行命令的输出,管不住「直接读文件」。第 3 轮 A 测试里,三条计数命令加起来才返回 112 字,但 AI 转头把存盘的清单文件整读了两遍,一下子又塞进来 9.2 万字。正因为抓到了这个动作,才补上了「不把全量文件读回对话复述」和「读文件默认先读 120 行」两条规矩。照抄能用的三招,外加一条省钱红线
可以直接照抄的三招
- 先算重看倍数再动手。让 AI 用「总消耗 ÷ 新读入量」算一次重看倍数。倍数超过 20,说明早先读进去的内容在对话里陪跑了太久,优先清理长对话和大段输出。
- 凡报总数必须附一条计数命令。只要回答里出现「一共 N 个」「全部符合」「一个都没有」,要求它必须先跑一条只输出数字的统计命令,杜绝看着屏幕残余行数瞎猜。
- 全量清单直接存文件。需要几千行完整名单或长表时,让它直接存盘并告诉你文件路径和总行数;你要核对哪几行再点名让它读那几行,别把几千行全倒进对话框。
绝对不能省的一条红线
遇到「逐字修改」「核对全文矛盾」「检查措辞与格式」这类必须看过原文才敢下判断的活,目标段落必须完整读完。先看清手头的活属于数数排序的机械统计,还是核对文字的精细判断:机械统计放心交给脚本截断,精细判断一字别省。