[控场AI]
· 4 分钟阅读· 2,065 字

AI智能体时代:能动性属于人类,工具只是辅助

AI智能体时代:能动性属于人类,工具只是辅助

AI智能体可自主执行,但能动性始终属于人类,需主动维护判断力。

文章区分了agent(执行任务的实体)与agency(人做出选择并负责的能力),指出AI智能体虽能自主调用工具、编写代码,但目标设定与最终裁量权仍属于人。工具放大人的能力,前提是人本身有清晰目标与判断标准。随着自动化加深,人可能从决策者退化为旁观者,能动性被悄悄让渡。因此,人本导向需落实为具体的设计原则(关键决策保留人工确认)和使用习惯(先形成初步判断、追问依据、保留抽查)。能动性如肌肉需持续维护,个体应主动承担保持自主判断的责任。

AI智能体(Agents)正在成为技术圈最热的话题之一。从自动完成任务的编程助手到能独立规划行程的虚拟助理,智能体的能力边界在不断扩展。但在讨论这些技术进展时,一个更根本的问题常被忽略:智能体可以是由AI驱动的,但能动性(agency)始终属于人类。

twitter source: Agents can be AI, but agency is human. It is every individual’s responsibility to empower our own ag

智能体与能动性:两个容易混淆的概念

在英文中,agent和agency同源,但指向不同。Agent指的是执行任务的实体——可以是一段代码、一个模型调用链,或者一个具备工具使用能力的AI系统。Agency则指人做出选择、采取行动、并对结果负责的能力。

这个区分在当下的讨论中变得模糊。当AI智能体能够自主调用API、编写代码、安排日程时,人们容易产生一种错觉:智能体拥有能动性。实际上,智能体执行的是被赋予的目标和约束,真正做出“要不要用”“用来做什么”“做到什么程度”这些判断的,仍然是人。

这一观点在社交媒体上引发了共鸣。有从业者指出,每个人都需要主动强化自己的能动性,而工具在其中扮演的是辅助角色。工具可以放大人的能力,但无法替代人的判断。

在哲学与社会学传统中,agency 指行动者自主设定目标、做出选择并承担后果的能力,与结构、约束相对;而 agent 仅指行动的执行载体。把这两个概念分开,有助于避免一种技术拟人化倾向:智能体可以表现出目标导向的行为,却不具备自主设定目标的意志。因此,讨论智能体时更严谨的框架是“委托—执行”,人类设定意图与边界,智能体在授权范围内行动。

工具放大了什么,又替代不了什么

AI工具的确在改变工作方式。编程智能体可以加速代码生成,研究智能体可以快速汇总资料,自动化工作流可以接管重复性操作。这些能力的价值在于把人的时间释放出来,让人专注于更高层次的决策。

但工具放大的前提是人本身有清晰的目标。一个没有明确问题意识的人,使用再强的智能体也只能得到泛泛的结果。反过来,一个知道自己要什么的人,能把智能体当作杠杆,撬动远超个人产能的产出。

这也是为什么“赋能自己的能动性”这个说法值得认真对待。它意味着在使用AI工具之前,先问自己:我要解决什么问题?我的判断标准是什么?哪些环节必须由我来把关?这些问题没有标准答案,但提问本身就是能动性的体现。

“杠杆”这一隐喻背后是认知科学中的“认知卸载”:工具可以分担记忆、计算与检索负担,但目标设定、价值排序与结果问责无法外包。尤为人际层面的是,使用智能体需要具备将模糊意图转化为可执行规格的能力——问题界定、验收标准、失败模式预判。这种“元认知”能力越强,工具带来的增益越显著,也更能防止把工具误当成决策主体。

人本导向为什么不能被稀释

当智能体变得越来越自动化,一个风险是人在流程中的角色被逐步边缘化。如果所有决策都交给系统,人就从“决策者”退化为“监督者”,再退化为“旁观者”。能动性在这个过程中被悄悄让渡。

保持人本导向(human centered)不是一句口号,而是具体的设计原则和使用习惯。在系统设计层面,意味着关键决策点要保留人的确认环节,而不是让智能体一路自动执行到底。在使用习惯层面,意味着定期审视自己把哪些判断交给了工具,哪些还留在自己手里。

这不是要抵制自动化,而是要区分哪些任务适合完全委托,哪些任务需要人保留最终裁量权。比如信息检索可以高度自动化,但涉及价值观判断、伦理取舍、长期后果的决策,人的参与不可省略。

人本导向在工程实践中通常落地为“人在回路”(human-in-the-loop)与“人在环上”(human-on-the-loop)两类安排:前者要求关键步骤须有人确认,后者由人监督整体流程并保留干预权。相关治理框架如“有意义的人类控制”强调,自动化程度越高,越应确保人拥有充分信息、可理解系统行为,并能有效否决或接管。这为区分“可完全委托”“需保留裁量”的任务提供了可操作标准。

个体责任:能动性需要主动维护

能动性不是一次性拥有的东西,它需要持续维护。就像肌肉不用会萎缩,判断力不练会退化。当AI工具越来越顺手,人容易滑向被动接受结果的状态。

维护能动性的方式并不复杂:在使用AI输出之前先形成自己的初步判断,在采纳建议时追问依据,在自动化流程中保留抽查的习惯。这些做法看起来低效,但正是它们让人的判断力保持在线。

从更宏观的视角看,AI智能体的发展不会因为个体是否保持能动性而停下。但个体能否在技术浪潮中保持自主判断,取决于自己是否主动承担这份责任。工具是中性的,方向由人决定。

一个值得记住的坐标

“Agents can be AI, but agency is human.” 这句话简洁地把讨论拉回到人本身。智能体的能力会继续增强,围绕智能体的产品会越来越多,但所有这些讨论的坐标系应该是人——人的目标、人的判断、人的责任。

对于每一个使用AI工具的人来说,这意味着在享受便利的同时,不要放弃提问的能力。工具是延伸,不是替代。能动性这份责任,最终只能由自己扛起来。

#AI智能体#能动性#人本导向#AI工具#人工智能伦理#自主判断#AI与人类
分享:

相关推荐