#token优化

共 5 篇相关文章

AI Agent的token成本大头是重复输入。本文介绍三种生产环境验证的降本方法：用便宜模型先摘要检索结果、按V模型阶段分配昂贵与廉价模型、用LLM代理按关键词和价格路由请求，并附缓存按模型失效等实操注意点。

上下文窗口不是无限容器，而是需要精打细算的预算。本文解析token分配的五个预算线、8,192窗口算术示例，以及按证据束检索避免'规则缺例外'错误的策略。

实测将Jupyter Notebook喂给Claude Code或Codex CLI时，token消耗高达3万。本文介绍只传代码单元格diff、超长行哈希化、禁用工具调用等技巧，把token压到1k-1.6k，降幅超95%，并附PowerShell编码与命令串联的避坑指南。

实测四款MCP服务器的工具定义token开销：GitHub默认配置11,207 token，Grafana达20,493 token。JSON Schema占83%，描述仅12%。开启tool search后常驻成本可降至几百token，CLI并非更省。

开发者两天烧掉95% Claude Code额度，日志显示99.9%的token并非代码，而是上下文重读。深度解析AI编程中上下文成本与子智能体扇出的真实开销。