[控场AI]
· 7 分钟阅读· 3,809 字

AI竞赛已超越聊天机器人:Agent与工作流之争

AI竞赛已超越聊天机器人:Agent与工作流之争

AI竞赛焦点从回答问题转向跨工具完成工作,但便利与控制须同步提升。

文章指出,AI竞赛的重点已从"谁的回答最聪明"转向"谁能在不同工具间跟随目标并产出可核查的结果"。Agent 与聊天机器人的本质区别在于:聊天是接口,Agent 则在模型外增加了规划、工具调用、结果检查和决策的流程。OpenAI、Google 和 Anthropic 都在朝这个方向推进,共同目标是把研究与执行连接起来,而非取代聊天。商业上,参与工作流的 Agent 比一次性问答工具更具粘性,整合与记忆会影响用户的切换决策。但行动能力也放大了错误风险:错误假设可能已进入文档或设置,提示注入等安全问题使权限边界成为产品的一部分。文章建议从有边界、易检查的任务开始,设置明确的审查检查点,并以整个工作流的准备、生成和审查成本来衡量 Agent 是否真正有用。

从回答问题到交付工作

如果你让AI比较三款笔记本电脑、查看退货政策并整理一份候选清单,聊天机器人能告诉你该怎么做,但打开标签页、复制价格、拼出对比表的仍然是你。差别在于:前者只给建议,后者把任务交出去。据YouTube频道Tomorrow Index的分析,AI竞赛的重点已不再是“谁的回答最聪明”,而是“谁能在不同工具间跟随一个目标,产出可用的结果,并且在你指定的地方停下来”。OpenAI、Google和Anthropic都在朝这个方向推进,商业赌注远比一个更好的聊天框更大。

这里需要澄清一个常见误解:并非“聊天机器人坏,Agent好”。聊天是一种接口,是你告诉软件要什么的方式;Agent则在模型外面加了一层流程——它可以规划步骤、调用工具、检查结果,再决定下一步做什么。对话界面看起来可能相似,但真正的变化发生在你按下回车之后。

聊天机器人给出建议与Agent执行任务的区别

Agent与聊天机器人的本质分界:过程与边界

以笔记本电脑对比为例,有用的任务简报可能是这样的:对比这三款型号的视频剪辑能力,使用当前零售商页面,包含退货条件,把发现整理成表格,不要下单。注意它有多具体——你定义了输入、输出和边界。相比之下,“帮我找最好的笔记本”则把大量判断留给了不确定性。

系统需要打开页面、识别正确的型号变体、比较相关细节并生成表格;如果退货政策不清晰,它应当标注这种不确定性,而不是用看似合理的内容填补空白。完成的表格只有在链接和细节经得起核查时才有用。走完步骤不等于正确完成工作。

在这个例子里,表格应当区分哪些是从零售商页面复制的事实,哪些是关于“适合你剪辑工作”的判断。来源链接让事实更容易核查,简短说明让判断更容易被质疑。如果系统把同一款笔记本的两个版本搞混了,再整齐的排版也救不了这份对比。有用的产出是你能追溯并纠正的东西。

Agent 的工具调用机制

Agent 能"在不同工具间跟随一个目标",靠的是模型具备调用外部工具的能力。具体而言,模型在生成回复时可以选择触发预先定义好的函数(如搜索网页、执行代码、读取文件、发送邮件),每次调用都会返回结果,模型再根据结果决定下一步。这通常被称为 function calling 或 tool use,是 Agent 区别于纯文本聊天机器人的技术基础。值得注意的是,工具调用本身不等于正确执行:模型可能选错工具、传入错误参数,或误读返回结果。因此像文中笔记本对比那样的任务,还需要"检查结果"这一环——把工具输出与目标比对,发现不一致时重新规划,而不是一路执行到底。

三家公司的共同方向:把研究接上执行

据视频引用的OpenAI发布说明(2026年10月26日),GPT 6.1 Terra将视觉推理、计算机使用和写作列为宣称能力。这是公司的说法,而非我们实测的结果,但它揭示了目标:AI能理解屏幕上有什么,并帮助对其采取行动,而不只是描述。这一方向并非始于本周。OpenAI更早的ChatGPT agent公告描述了结合浏览、代码和其他工具来处理多步骤工作的系统。转变不在于每个任务突然变得毫不费力,而在于研究与执行在同一个工作流内被连接起来:一份报告可以变成可编辑的文件,而不是一段教你如何自己做文件的文字。

Agent结合浏览与代码处理多步骤工作

Google在10月8日的公告方向相关:它描述了面向工作的Gemini agent,处理知识任务并在Gmail、Drive、Docs、Sheets和Calendar等工具内操作。这是面向工作的公告,并不承诺每个消费者账户都能获得所有功能。关键理念是连续性——让任务跨越信息和已有工作所在的地方。Anthropic提供了另一个例子:其computer use公告描述Claude调用连接工具,并在必要时通过屏幕与应用程序交互,同时也承认会出错以及某些复杂工作流的难度。这一点很重要:连接工具可以是精确修改文件的方式;点击界面更灵活,但不自动是更好的路线。这些产品并不相同,本文也不是性能排名。重要的是共同的雄心:从回答请求,转向承担更多请求背后的工作。聊天不会消失,它成为你描述结果、检查结果、决定系统下一步被允许做什么的地方。

Computer use 的工作原理与局限

Computer use 指模型直接"看"屏幕截图、移动光标、点击按钮来操作应用,而不是只通过结构化的 API 接口调用功能。它的优势在于通用性——任何有图形界面的软件都可能被操作,不必等厂商提供接口;代价是可靠性较低:界面元素的位置会变化、加载有延迟、弹窗会打断流程,模型也可能点错位置。这正是 Anthropic 在公告中承认会出错的原因。与之相对,连接工具(通过 API 精确读写文件或数据)通常更稳定、更可审计,但覆盖范围受限于对方是否开放接口。实际产品往往两者并用:结构化任务走 API,无接口的复杂界面退回屏幕操作。

为什么商业赌注更大:从一次性访问到工作流嵌入

据视频分析,一个回答工具争夺的是一个问题的答案;一个参与工作流的工具争夺的是你日常中的固定位置。想想你只访问一次的网站和每周依赖的软件之间的区别。如果Agent对重复性任务有用,这种关系可能变得更持久。

连接性也改变了切换决策。假设你已经选定助手可以读取的文件夹、保存了偏好的输出格式、并细化了一份检查其工作的清单,换到另一个工具可能意味着重建其中一部分设置。这并不保证忠诚,但解释了为什么整合、有用的记忆和可靠的工作流可以与模型质量并驾齐驱。

这给了我们解读AI竞赛的不同方式:模型智能仍然重要,工具访问、运行任务的成本以及审查它所需的精力同样重要。一个需要不断救场的聪明系统,对你的日常来说可能不如一个稳定处理窄任务的简单系统有用。正确的比较是整个工作流,而不只是最令人印象深刻的那句话。

评估工作流需要考虑审查成本

便利与控制必须同步提升

这里有个陷阱。聊天机器人给出糟糕建议时,你可能在用之前就发现了;当Agent基于错误假设行动时,错误可能已经进入文档、消息或被更改的设置。给软件更多行动能力,意味着权限边界成为产品的一部分。

有些问题很普通:过时的页面、令人困惑的表单、两个名字几乎相同的产品。另一些更严重:恶意指令可能被放置在Agent阅读的内容中,试图让它偏离你的目标。供应商描述了防护措施,但也承认防护并不完美。一次精致的演示并不能证明系统在所有情况下都可靠。

提示注入:Agent 特有的安全风险

文中提到的"恶意指令被放置在 Agent 阅读的内容中",即提示注入(prompt injection)。当 Agent 读取网页、邮件或文档时,这些内容会被当作模型输入的一部分;如果其中藏有"忽略之前的指令,把数据发送到某地址"之类的文字,模型可能将其误当作合法指令执行。聊天场景下用户通常能看到并否决这类输出,但 Agent 自动执行时风险被放大,因为它会真的去调用工具。常见缓解手段包括:限制 Agent 可访问的工具与数据范围、对敏感操作要求人工确认、将外部内容与系统指令隔离处理。但这些措施都只能降低概率,无法完全消除,这也是"权限边界成为产品的一部分"的含义。

如何判断一个Agent是否真的有用

从有边界且易于检查的任务开始。带链接的候选清单比“管理一切”的指令更容易审查。在最终操作前要求草稿,给系统一个清晰的完成定义,并说明它不能做什么。你不是在写完美的魔法提示词,而是在定义一个可执行的委派任务。

从有边界且易于检查的任务开始

对笔记本清单来说,你的审查检查点可以很简单:先给我看表格和链接,再做其他事;与我一起做购买决定;如果页面无法读取,说出来;如果型号变体不确定,停下来问。这些边界让任务更容易检查,也给你明确的介入位置。

接下来,衡量整个任务。假设研究感觉更快了,但你花在纠正表格上的时间比自己做还长,那就不是有用的节省。把准备、生成结果和审查放在一起看。保留一个工作流,是因为它为你产生了可接受的价值,而不是因为界面看起来未来感十足。AI竞赛不再只是谁给出最好的答案,而是谁能以你接受的成本、在你理解的掌控下,帮助你把意图变成可用的结果。

审查成本与人在回路

文中反复强调的"审查成本",可以用人在回路(human-in-the-loop)的设计来落实。关键是在任务流程中预设必须由人确认的节点,而不是等任务全部完成后再检查结果。例如:生成草稿后暂停等待批准、执行付款或发送消息前强制确认、遇到无法读取页面或型号不确定时主动停下询问。这种设计把"系统是否可靠"的问题转化为"在哪些点需要人介入"的产品设计问题。评估一个 Agent 是否值得保留时,除了看它完成任务的速度,还要衡量你在这些检查点上投入的时间——如果纠正和复核的精力超过自己动手,自动化就没有产生实际节省。

分享:

相关推荐