待验证50% 置信观点精确时间

在冲突调解或政策模拟等对规范敏感的应用领域,模型系统性高估惩罚性反应可能加剧对立或误导决策

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI社会认知缺陷:为何模型总是过度惩罚

涉及实体

AI系统technology

相关事实

待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏75% 相似待验证依赖提示词约束来防止危险操作本质上不可靠,因为模型可能被越狱、误判或在长对话中遗忘约束73% 相似待验证系统存在漏洞通常难以直接成为免责事由，但主观故意的认定、行为方式、损害后果等会影响法律评价71% 相似待验证Agent的自主决策可能产生难以预测的副作用如误删代码、错误部署，需要完善的权限边界和行为审计机制69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/892952

API

curl https://kongchang.com/api/v1/knowledge/claims/892952

MCP

get_claim(id=892952)