待验证50% 置信基准精确时间

研究发现随着挑战累积，智能体逐渐从自主恢复转向更依赖人类，越来越多地把问题抛回给人

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

完成任务还不够：AI智能体的韧性与协作评估新框架

相关事实

待验证自我改进智能体面临经验可靠性挑战，随时间推移积累的经验可能与当前环境不再匹配（分布漂移）71% 相似待验证操作韧性关注智能体如何从被阻断的工作中恢复，同时保留已有进展并如实沟通自身局限71% 相似待验证自动化系统越成功，越需要人类在极端情况下做出关键干预，而此时人类因长期缺乏实践反而变得更不可靠70% 相似待验证对齐问题的核心困难在于如何确保持续自我改进的AI系统在每次迭代后仍遵循人类预期的目标与价值观68% 相似待验证自动驾驶最本质的心理挑战在于能动性的缺失，人类失去可沟通、可预判的对象68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/916357

API

curl https://kongchang.com/api/v1/knowledge/claims/916357

MCP

get_claim(id=916357)