Saket
拥有两年经验的AI Agent工程师，专注于LangGraph编排、多Agent架构与Token成本工程，曾参与Kritia AI技术播客分享实战经验
时间轴 (近 90 天)
Saket团队给Agent状态加步数计数器，单次图运行超过约40步就触发告警，40这一阈值来自一周合法步数P99的约2倍（最复杂合法工作流约16步）
工具服务器因处理I/O密集任务而CPU低，用CPU做自动扩展会误判不需扩容，正确信号是请求队列深度或活跃连接数；Saket团队切换到基于队列深度的自动扩展后扩展滞后从约3分钟降到约30秒
护栏阈值应设为经验值：在测试环境跑任务分布，看合法任务完成的P99步数，将阈值设在约1.5倍
生产事故诊断应先止血（立即杀掉或暂停Agent运行）再诊断原因
将确定性关键词检查的路由节点重构为由LLM分类意图后，每次查询多了约300个Token开销，在其流量规模下相当于每天多花约40美元
应按每个Agent（per-agent）而非仅每个请求跟踪输入输出Token，以便定位是哪个节点出问题
排查Agent死循环事故应按顺序检查：该会话的run step计数、工具调用序列、累计Token花费
模拟事故中研究Agent运行214步、document search工具每3-4步被调用一次、已花费约47美元，根因是planner节点过度拆解用户查询发明了原始查询未问的子问题
全部知识事实 (8)
Saket团队给Agent状态加步数计数器，单次图运行超过约40步就触发告警，40这一阈值来自一周合法步数P99的约2倍（最复杂合法工作流约16步）
50%待验证工具服务器因处理I/O密集任务而CPU低，用CPU做自动扩展会误判不需扩容，正确信号是请求队列深度或活跃连接数；Saket团队切换到基于队列深度的自动扩展后扩展滞后从约3分钟降到约30秒
50%待验证护栏阈值应设为经验值：在测试环境跑任务分布，看合法任务完成的P99步数，将阈值设在约1.5倍
50%待验证生产事故诊断应先止血（立即杀掉或暂停Agent运行）再诊断原因
50%待验证应按每个Agent（per-agent）而非仅每个请求跟踪输入输出Token，以便定位是哪个节点出问题
50%待验证排查Agent死循环事故应按顺序检查：该会话的run step计数、工具调用序列、累计Token花费
50%待验证将确定性关键词检查的路由节点重构为由LLM分类意图后，每次查询多了约300个Token开销，在其流量规模下相当于每天多花约40美元
50%待验证模拟事故中研究Agent运行214步、document search工具每3-4步被调用一次、已花费约47美元，根因是planner节点过度拆解用户查询发明了原始查询未问的子问题
50%