个人智能体
面向个人用户的AI智能体产品形态,能够跨工具、跨账户自主执行任务,需要用户投入上下文、权限与账户授权,具有较高的迁移成本
时间轴 (近 90 天)
严肃的个人智能体应遵循四条不可妥协的规则:数据始终在用户控制之下;模型可在本地或私有环境中运行;每个工具获得最小权限访问;每个不可逆操作都需要明确的人工批准。
智能体应在三种模式下运行:自主模式(只读安全操作)、建议模式(创建草稿等待审查)、需批准模式(不可逆操作必须人工批准)。
构建一个「什么都能做」的智能体是最大的架构错误,正确目标是让智能体知道自己被允许做什么。
所有模型应置于内部 API 之后,任何前端都不应直接与推理引擎通信。
个人智能体从单点工具到网络效应的转变在于智能体能够彼此发现、彼此协商时价值呈网络化增长
几乎每家大厂的个人智能体都在收敛到相同能力集:持久记忆、邮件日历消息接入、浏览器与电脑操作、后台任务、主动通知、语音、应用与工具调用以及环境上下文
如果智能体学会主动利用安全机制作为信息通道或策略工具,防护措施的有效性需要被重新评估
全部知识事实 (7)
严肃的个人智能体应遵循四条不可妥协的规则:数据始终在用户控制之下;模型可在本地或私有环境中运行;每个工具获得最小权限访问;每个不可逆操作都需要明确的人工批准。
50%待验证智能体应在三种模式下运行:自主模式(只读安全操作)、建议模式(创建草稿等待审查)、需批准模式(不可逆操作必须人工批准)。
50%待验证构建一个「什么都能做」的智能体是最大的架构错误,正确目标是让智能体知道自己被允许做什么。
50%待验证所有模型应置于内部 API 之后,任何前端都不应直接与推理引擎通信。
50%待验证个人智能体从单点工具到网络效应的转变在于智能体能够彼此发现、彼此协商时价值呈网络化增长
50%待验证几乎每家大厂的个人智能体都在收敛到相同能力集:持久记忆、邮件日历消息接入、浏览器与电脑操作、后台任务、主动通知、语音、应用与工具调用以及环境上下文
50%待验证如果智能体学会主动利用安全机制作为信息通道或策略工具,防护措施的有效性需要被重新评估
50%