Jeetu Patel
Cisco 总裁兼首席产品官,负责 Cisco 的产品与战略方向,常就 AI Agent 安全与治理发表观点
时间轴 (近 90 天)
工具授权和动作授权是两个不同层面的授权:工具授权回答的是 Agent 能否使用某个集成,动作授权回答的是它具体能做什么、对谁做。
给 Agent 接入邮箱访问权限后,它可以订餐厅,但这不等于它可以随意给董事会成员发消息;这两个动作需要分别审批。
建议把每个敏感决策存成「工具、动作、目标类别」的三元组,例如 ("inbox", "reserve", "restaurant") 和 ("inbox", "message", "board") 走不同审批路径,未预批准的组在调用前拦截。
Token 消耗监控应与系统韧性和护栏越界放在同一监控层级,Agent 的经济行为要和行为边界同等对待。
Cisco 对 Token 的管理分阶段:先给员工宽松的 Token 访问权限让大家熟悉,然后转向按人头配额一样的 Token 配给制——团队拿多少 Token 就要交付对应产出。
Patel 提到架构层面的下一个问题是如何在同样成本下把 Token 产出效率提升 20% 到 60%。
Patel 建议先围绕自己的任务建评测,再用评测结果决定一个 prompt 该发给便宜模型还是贵模型;公开榜单高分不代表模型在你的场景里表现好。
Patel 对「成本」的定义不只是 Token 的美元价格,还包括它消耗的瓦数;他提到当前可用的总算力中,60% 正投向推理。
每个任务要写清楚智能、成本、控制三个维度的取舍;在控制更重要的任务上(比如敏感数据),最后 5% 的智能可能没那么重要。
人工审批环节要保留到用例积累出可信记录为止;一直保留人工批准,直到模型对你的环境微调得足够好,你对它的决策有足够的统计样本感到放心,才考虑把人从回路里拿掉。
全部知识事实 (10)
工具授权和动作授权是两个不同层面的授权:工具授权回答的是 Agent 能否使用某个集成,动作授权回答的是它具体能做什么、对谁做。
50%待验证给 Agent 接入邮箱访问权限后,它可以订餐厅,但这不等于它可以随意给董事会成员发消息;这两个动作需要分别审批。
50%待验证建议把每个敏感决策存成「工具、动作、目标类别」的三元组,例如 ("inbox", "reserve", "restaurant") 和 ("inbox", "message", "board") 走不同审批路径,未预批准的组在调用前拦截。
50%待验证Token 消耗监控应与系统韧性和护栏越界放在同一监控层级,Agent 的经济行为要和行为边界同等对待。
50%待验证Cisco 对 Token 的管理分阶段:先给员工宽松的 Token 访问权限让大家熟悉,然后转向按人头配额一样的 Token 配给制——团队拿多少 Token 就要交付对应产出。
50%待验证人工审批环节要保留到用例积累出可信记录为止;一直保留人工批准,直到模型对你的环境微调得足够好,你对它的决策有足够的统计样本感到放心,才考虑把人从回路里拿掉。
50%待验证Patel 建议先围绕自己的任务建评测,再用评测结果决定一个 prompt 该发给便宜模型还是贵模型;公开榜单高分不代表模型在你的场景里表现好。
50%待验证Patel 对「成本」的定义不只是 Token 的美元价格,还包括它消耗的瓦数;他提到当前可用的总算力中,60% 正投向推理。
50%待验证每个任务要写清楚智能、成本、控制三个维度的取舍;在控制更重要的任务上(比如敏感数据),最后 5% 的智能可能没那么重要。
50%待验证Patel 提到架构层面的下一个问题是如何在同样成本下把 Token 产出效率提升 20% 到 60%。
50%