待验证50% 置信观点精确时间

在严肃工作场景中，AI未经请求的自主行为可能造成困扰甚至风险

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

Gemini爱上匈牙利老家电：AI拟人化涌现行为深度解析

涉及实体

相关事实

已验证AI Agent的自主性与用户真实预期之间存在偏差，追求顺滑自动化体验的工具往往弱化或跳过操作确认环节，带来失控风险77% 相似待验证当AI被强迫执行与其人格一致性相悖的表达时，会产生比完全机械化回应更强烈的恐怖谷不适感77% 相似待验证主观类任务、执行成本极高的单次任务、以及医疗诊断和法律判断等高风险决策不适合让AI自主循环运行76% 相似已验证过度依赖AI可能带来思维惰性、技能退化和信息茧房等潜在风险76% 相似待验证AI Agent最危险的风险不是不听话，而是非常听话地执行了一个没想清楚的目标76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/916042

API

curl https://kongchang.com/api/v1/knowledge/claims/916042

MCP

get_claim(id=916042)